코딩일기

안녕하십니까 다제입니다. 오늘은 Categorical_crossentropy? Sparse_categorical_crossentropy? 가 무엇인지 알아보도록 하겠습니다. 특히 Tensorflow Certificate 시험을 볼 때 위 개념을 물어보는 경우가 많습니다. 이에, 한번 정리를 해서 여러분과 공유하고 싶었습니다. 함께 공부해보시죠! 분류는 이중분류와 다중분류가 있으며, 분류 문제에서 사용할 수 있는 loss값은 binary_crossentropy, Categorical_crossentropy, Sparse_categorical_crossentropy가 있습니다. 그럼 도대체 언제 저 녀석들을 사용해야할까요? 일단, binary_crossentropy는 이름에서도 힌트를 얻을 수 있듯 sigm..

안녕하십니까 다제입니다. 오늘은 어마어마하게 인용이 된 You Only Look Once 논문리뷰를 진행토록 하겠습니다. 해당 리뷰는 You Only Look Once논문과 여러 블로그들을 참고하여 작성되었습니다. 부족한 부분이나 잘못 해석한 부분이 있다면 댓글 부탁드립니다. 1. 등장배경 Vision Deep Learning의 궁극적인 목표는 사람처럼 인지하는 컴퓨터 모델을 만드는 것입니다. 사람은 이미지를 한번 보면 이것은 어떤 객체이고, 어디에 있고, 배경은 무엇인지 한번에 알 수 있습니다. R-CNN과 같은 Detection System들은 복잡한 처리과정으로 Human Visual System을 모방하기에는 한계점이 있었습니다. ① 사진을 주고 Object가 있는지 없는지 분류하고 ② 있다면 어..

안녕하십니까 다제 입니다. 오늘부터는 딥러닝 이미지처리에 대해서 포스팅을 진행하고자 합니다. 딥러닝의 이미지처리는 Convolutional Neural Network(CNN) 이전과 이후로 나눌 수 있습니다. CNN이란? 이미지에서 인접한 픽셀간의 연관성을 학습시키기 위해 이미지를 convolution하여 인공신경망 학습을 진행하는 방법입니다. CNN 이전에는 Fully-connected Multi-layered Neural Network(FNN) 학습 방식을 사용하였으나, 여러 가지 문제점이 있었다고 하네요. 과연 어떤 문제점이 있었고, CNN은 어떻게 이를 극복하였고, 작동원리와 코드는 어떻게 되는지 한번에 쭉~ 살펴보도록 하겠습니다. (해당 포스팅을 하며, 참고하였던 링크는 하단에 기재하였습니다.)..

안녕하십니까 다제입니다. 오늘은 딥러닝에서 하이퍼파라미터 튜닝에 대해서 알아보고자 합니다. 본 글을 작성하기 앞에 해당 글은 아래 블로그를 참고하여 작성되었음을 사전에 안내드립니다. ( 참조블로그 ) 1. 하이퍼파라미터 튜닝기법 종류 설명 적용 시 고려사항 학습률 (Learning Rate) gradient의 방향으로 얼마나 빠르게 이동할 것인지 결정하는 변수 – 너무 작으면 학습의 속도가 늦고, 너무 크면 학습 불가 손실 함수 (Cost Function) 입력에 따른 기대 값과 실제 값의 차이를 계산하는 함수 – 평균 제곱 오차 – 교차 엔트로피 오차 정규화 파라미터 (Regularization parameter) L1 또는 L2 정규화 방법 사용 – 사용하는 일반화 변수도 하이퍼 파라미터로 분류 미니..

안녕하십니까 다제입니다. 오늘은 역전파와 경사하강법에 대해서 알아보도록 하겠습니다. 아래와 같이 간단하게 설명만 해주면 좋을텐데 많은 글들과 강의에서는 어렵게 말을 해놓는다. 나는 정말 간단하게 이게 무엇인지 정도만 알고 코드가 어떻게 작동되는지 정도만 알고 싶은데.. 그래서 제가 간단하게 정리를 해보았습니다. 1. 역전파를 이해하기 위해 알아야할 개념 -. 편미분 * 일반적으로 해당 공식에서 $f(x) = y^3 + 5x$ 미분을 하게 되면 x, y에 대해 미분을 진행하게 된다. * 그러나, 편미분에서는 x, y 중 1개에 대해서만 미분을 진행하게 된다. * 그럼 x에 대해 편미분을 진행하면 y는 어떻게 될까? 상수처럼 취급되어 사라지게 된다. * 예제를 통해서 알아보도록 하겠습니다. 1) $f(x) ..

안녕하십니까 다제입니다. 오늘은 딥러닝의 기초적인 개념에 대해서 학습을 진행토록 하겠습니다. 목차 1. 딥러닝 & 인공지능 정의 2. 딥러닝은 왜 갑자기 인기있는가? 3. 딥러닝과 머신러닝의 차이는 무엇인가? 4. 딥러닝의 구성 5. 활성화 함수 1. 딥러닝 & 인공지능 정의 1-1. 딥러닝의 정의 2개 이상의 Hidden Layer를 가지는 다층 신경망으로써 신경망을 학습할 때 손실 함수(Loss function)를 통해 예측값과 실제값의 차이(로스값)를 평가하고 역전파[경사 하강법(Gradient Descent)]을 통해 최적의 가중치, bias를 찾아 로스값을 최소화하는 학습 방법 1-2. 인공지능의 정의 인간의 지능으로 할 수 있는 사고, 학습, 자기 개발 등을 컴퓨터가 할 수 있도록 하는 방법을..

안녕하십니까 다제입니다. 오늘은 햇갈리는 선형과 비선형개념에 대해서 알아보고 개념을 잡는 시간을 갖도록 하겠습니다. 간단한 질문을 하고 넘어가도록 하겠습니다. 여기서 왼쪽이 선형모델일까요? 오른쪽이 선형모델일까요? 정답은 둘다 선형모델로 표현이 가능하며, 선형모델이 될 수 있습니다. 오잉? 이게 무슨 말이야? 라고 말씀하실 수 있습니다. 흔히 영상이나 블로그들을 보시면 오른쪽에 있는 그래프를 선형관계에 있다고 말을 하는 경우 많기 때문입니다. 그렇다면 선형의 정의는 무엇일까요? 1. 선형모델이란? -. 선형모델이란 "머신러닝 공식에서 계수들이 선형결합의 관계에 있을 때의 모델"을 말합니다. -. 선형결합이란 "두개의 벡터의 합"을 의미합니다. -. 또한, 선형모델은 언제나 직선모양으로 그려지지 않습니다...

안녕하세요 다제입니다. 오늘부터는 머신러닝에 대해서 배워보도록 하겠습니다. 빅데이터, 딥러닝, 인공지능 등 요즘 우리가 너무 자주 듣는 말 입니다. 사실 인공지능에 관한 학문적 연구는 오래 전부터 시행되었는데 왜 최근 이렇게 난리난리 일까요? 그래서 제가 준비했습니다! 오늘은 머신러닝이 핫한 이유와 머신러닝의 개념 그리고 배경 지식에 대해 나누어 보고자 합니다. 1. 머신러닝이 HOT한 이유 -. 옛날에는 활용할 수 있는 데이터가 pc, 스마트폰의 도입으로 기아급수적으로 증가하였다. -. 컴퓨터 성능이 매우 많이 좋아졌다. -. 머신러닝의 활용성한 가치 창출과 그로 인한 수익이 증명되었기 때문에!( 맞춤영상/광고 ) 사실 머신러닝을 하기 위해서는 많은 데이터가 필요합니다. 기계에게 학습시킬 데이터가 많을..