20200915 머신러닝 수업

설계 행렬(design matrix): 훈련 집합의 모든 정보를 담은 행렬. 행은 sample, 열은 feature의 인덱스.

ex) 붓꽃 데이터 150개 샘플, 각각 4개의 특징 → (150, 4), MNIST 데이터 60000개, 각각 784개의 픽셀(특징) → (60000, 784)

 

텐서: 3차원 이상의 데이터 구조

 

Lp 놈(norm): 샘플 간의 거리. 즉 distance. 즉 벡터의 크기를 구할 때 쓰는 것. p차원의 놈을 얘기할 때 Lp 놈이라고 한다.

 

 

즉 0이 많을수록 ||w||_0 값은 줄어든다.

 

cos 유사도: 두 단위 벡터 간의 내적. 즉 두 벡터 사이의 각도를 이용해 두 벡터가 얼마나 상관있는지 측정하는 지표

ex) 서로 90도 → 내적값 = 0 → 두 벡터는 서로 상관이 없다.

 

결정 평면과 결정 초평면: 공간을 나누는 평면. 결정 평면은 3차원 공간에서, 결정 초평면은 4차원 이상 공간에서.

 

 

출력이 여러 개인 퍼셉트론의 분류 방법은?

 

d번째 퍼셉트론의 가중치 벡터

 

위 가중치 벡터를 각 부류의 '기준 샘플'이라고 생각하면, 신경망은 입력된 '특징 벡터'와 '가중치 벡터'를 내적한 뒤, 그 값이 가장 큰 아웃풋 노드를 최종 분류 결과로 취한다. "즉 특징 벡터와 가중치 벡터 간의 유사도를 측정한다."

 

즉 위 그림에선 n개의 부류를 분류한다.