달나라 노트

손실 함수(Cost Function)는 Deep Learning에서 사용되는 중요한 개념 중 하나입니다. Cost Function을 매우매우 간단하게 설명하면 에러율입니다.모델이 얼마나 에러를 일으켰는지를 나타내는 값이죠. 다만 그냥 모델이 계산한 값이 정답(label)과 다른가 아닌가로 구분하는게 아니라 모델의 output값과 정답(label)의 차이를 가지고 계산한 에러율입니다.예측값(prediction)과 정답(label)간의 차이를 계산해서 모델의 오류를 수치화한 것입니다. 따라서 Cost Function의 숫자가 낮을수록 모델이 더 정확하다고 할 수 있습니다. 대표적인 Cost Function에 대해 알아봅시다. 1. Mean Squared Error(MSE, 평균 제곱 오차) Mean Sq..

1. 정규화(Normalization), 표준화(Standardization)란?Deep Learning을 하다 보면 정규화(Normalization) 또는 표준화(Standardization)라는 용어를 접하게 됩니다.둘은 혼용되어 사용되곤 해서 여기서는 정규화(Normalization)이라고만 칭하겠습니다. 정규화는 입력값들의 스케일을 비슷한 수준으로 맞춰주는 과정입니다. 예를 들어봅시다.입력값에 다음과 같은 것이 있다고 해봅시다. 상품판매량(개)가격(원)판매 금액(원)품절율(%)A 8,027 21,000 168,567,00010.20%B 1,672 18,000 30,096,0008.60%C 30 25,000 750,..

Deep Learning 뿐 아니라 통계나 AI 전반에 걸쳐서 Feature란 용어가 등장할 때가 많습니다.Feature가 무엇인지, 왜 필요한건지 간단한 예시를 통해 감을 잡아봅시다. AI건 통계건 일반적으로 목적은 다양한 데이터를 분석해서 어떠한 패턴을 찾아내는 것입니다. 국적과 평균 키의 상관관계생활 패턴에 따른 건강 상태의 상관관계심장의 크기와 운동 능력의 상관관계지역별 판매 제품군분석의 대상은 매우 다양합니다. 위처럼 어떤 분석이건 어떤 통계건 "대상"이 있기 마련입니다.국적과 평균 키의 상관관계를 분석한다면 최소한 다음과 같은 정보가 필요할 것입니다.- 국적- 성별- 키아무리 국적별 평균 키를 본다라고 해도 남/녀의 유전적인 키 차이를 무시할 수 없을 것이기에 국적 - 키 데이터 뿐 아니라 성..

y = wx + b를 통해 딥러닝을 진행하면 상황에 따라 출력값의 숫자가 매우 커지는 경우가 있을 수 있습니다.이런 상황이 지속되면 컴퓨터의 계산 가능한 범위를 넘어서는 크기의 숫자가 나올 수도 있습니다. 또한 단순한 y = wx + b와 같은 연산만 반복하게 되면 input과 output의 관계성이 선형으로만 정의되어 단조로운 선형(Linearity) 패턴만 가지게 될 수 있습니다.이렇게되면 복잡한 패턴을 가지는 현실의 다양한 패턴들을 구체화하기 어려울 수 있죠.그래서 Deep Learning의 핵심 중 하나는 비선형(Non-Linearity) 패턴을 구현하는 주는 것입니다. 위같은 현상을 방지하면서 인공 신경망을 거칠 때 마다 나오는 output 값을 특정 범위 내로 제한하여 output값이 목표값에..