16 - Deep Learning의 개념

Deep Leanring에 대해서 알아보겠습니다.

 

딥러닝 딥러닝 이야기는 많은데, 이게 뭔가에 대해 알아보겠습니다.

 

뉴럴 네트워크라는 것이 인간이 생각하는 것을 본따서 만든 것입니다.

 

인간이 정보를 받아들여서 아웃풋을 내는 것 처럼 사고하는 방식입니다.

 

그런데 얘를 하다보니 문제가 생깁니다.

 

 

OR, AND라는 것은 구분이 가능한데 XOR이라는 것은 어떻게 해야할지 모르겠는 문제가 발생합니다.

 

때문에, 한개의 유닛이 아니라 여러개의 유닛을 이용해서 결과를 내는 방식으로 XOR문제를 해결합니다.

 

 

 

 

그런데 문제점이 하나 생기는데, 각각의 유닛의 weight와 bias를 어떻게 학습시켜서 유의미한 결과값을 내는가? 하는 문제가 생깁니다.

 

이 때 생겨난 개념이 Backpropagation입니다.

 

 

간단하게 말해서, 각각의 순서대로 진행되는 것이 error가 출력되면 뒤로 전달시켜 다시 학습시키는 방법입니다.

 

그런데 얘가 학습하는 과정이 많으면 뒤로 잘 전달이 되지 않는 문제가 발생합니다.

 

때문에, 초기값을 잘 주는 것이 중요합니다.

 

 

참조

[1] - https://www.youtube.com/watch?v=GYecDQQwTdI&feature=youtu.be