동기 성균관대 우수학부생 프로그램을 통해 우울증 챗봇 개발에 참여하는 기회를 얻었다. 이전에 실시간 얼굴 인식 프로젝트를 진행한 경험이 있어 얼굴 이미지를 통해 우울증을 탐지하는 멀티모달 구현에 도전했다. 논문 요약 (번역/ 정리) 이미지를 중심으로한 우울증 연구 중 논문: Automatic Depression Detection via Lea...

Jaewan-Yun: optimizer-visualization Optimizer는 모델의 Training Loss를 최소화하는 방향으로 파라미터를 업데이트하는 중요한 역할을 한다. 쉽게 말해 모델을 어떤 방향으로 얼마만큼 업데이트할 것인지를 결정하는 역할을 한다. Optimizer는 Gradient Descent(경사하강법)를 기반으로 한다. 기...

딥러닝으로 모델을 학습시키기 위해 미분 값을 구하는 과정이 필요하다. 만약 왜 미분이 필요한지 모른다면 ‘경사하강법과 학습률‘을 참고하면 된다. 해당 내용을 몰라도 이번 글을 이해하는 데는 문제는 없다.  배경 지식 미분의 정의 (+극한) 도함수 합성 함수 표현 문제점 일반적으로 미분 값을 구할 때, 도함수를 구한 후 값을 대...

사전 지식 평균 ( $\cfrac{1}{n} \sum_{i=1}^{n}x_i$ ) 이차함수의 미분과 접선의 기울기 편미분 전체 개념 살펴보기 여기서 이해 못 해도 괜찮다. 일단 읽고 넘어가자. 딥러닝에서 모델을 학습한다는 것은 실제 값과 예측 값 오차를 최소화하는 가중치를 찾는 과정이다. 여기서 ‘오차’를 정의하는 함수를 비용...

선형 구조 활성화 함수는 알지만 왜 써야하는지 모를 수 있다. 그럼 아래와 같이 은닉층이 있는 신경망은 어떻게 결과값을 계산하는지 확인해보자. [z_0=w_0x_0+w_1x_1] [z_1=w_2x_0+w_3x_1] [y=w_5z_0+w_6z_1] 확인을 위해 식을 직접 대입해 보면, [y=w_5(w_0x_0+w_1x_1)+w_6(w_2x...

대회: 월간 데이콘 발화자의 감정인식 AI 경진대회 제출 코드: dacon.io/codeshare 인터뷰: 우승자 인터뷰: 219 동기 자연어처리 대회를 소개받아 DACON 대회에 참가하게 되었다. 자연어처리 과목을 수강하고 있었는데 교수님께서 대회를 소개해주셨다. 당시 멀티모달 우울증 탐지 연구를 하고 있었기 때문에 감정 분석 모델에 ...

기본적인 CNN 모델을 만들기 위해 필요한 개념들을 정리하였다.  결과: Github: cnn_mnist CNN 모델 구조 2D Convolution Convolution은 합성곱 연산이다. CNN 모델에서 이미지 특징을 추출하는 과정이 바로 합성곱 연산이다.  Input: 입력은 (h, w) 크기를 가지는 2차원 이미지. ke...