13 - multinomial logistic classification

지금까지 분류를 Yes or No로 만 했습니다. 예를 들면 합격 불합격으로 정의했었죠?

 

그런데 저는 이 것은 여러가지 타입으로 하고 싶습니다.

 

예를 들면 학점을 생각할 수 있겠죠?

 

자, 만약에 아래와 같은 애가 있다고 생각해보겠습니다.

 

점수1	점수2	결과
50	70	A
40	30	B
20	20	C
60	80	A
40	40	B

얘를 한번 찍어보면 아래와 같이 나옵니다.

 

얘를 구분선으로 한번 구분해보면 

 

 

 

이렇게 구분이 가능합니다.

 

A or Not

B or Not

C or Not

 

정도로 구분이 가능하겠죠??

 

그러면 A or Not부터 보겠습니다. 얘를 간단하게 수식으로 해보면

 

f(x) = w1x1 + w2x2 +b 가 되겠죠?

 

얘를 행렬로 해보면

 

 

얘를 A or Not, B or Not 등등 나머지 애들도 다 해보면

 

아래와 같이 나옵니다.

 

 

 

얘를 아래와 같이 표현할 수 있는데

 

Ya, Yb, Yc의 값으로 표현해보면

 

2.0, 0.5, 0.1 와 같은 값이 나옵니다.

 

그런데 저희는 얘들을 softmax라는 함수를 통해서 0~1사이의 값으로 바꿔줍니다.

 

[0.7, 0.2, 0.1] 로 바뀝니다.

 

그러면, 얘들을 0 또는 1로 바꿔줍니다. 지금 0.7이 가장 크니깐

 

[1,0,0] 으로 만들 수 있겠죠?

 

그러니깐 1인 부분의 A라고 판단할 수 있게 됩니다.

 

여기도 cost를 구해서 최소화해야 하는데, 크로스 엔트로피라는 것을 사용합니다.

 

 

 

 

 

 

참조

[1] - https://www.youtube.com/watch?v=BQEhUD2XTaA&t=1601s

[2] - https://m.blog.naver.com/PostView.nhn?blogId=complusblog&logNo=221239750876&proxyReferer=https%3A%2F%2Fwww.google.com%2F