목록chainrule (1)

브렌쏭의 Veritas_Garage

[3Blue1Brown] Backpropagation 역전파

"각 오차는 오차함수가 얼마나 각 가중치 및 편차에 민감한지를 나타낸다"  조작 가능한 것은 Weight 와 Bias 다여러 레이어로 이루어져있다면 그 이전의 활성치 값 또한 그 값을 정하는 이전의 가중치와 편향치를 조작해 바꿀 수 있다.각 뉴런들은 이전의 모든 뉴런들과 연결되어 있다는 점을 통해 출력에서 부터 거꾸로 영향력을 변경 가능하다. 이렇게 역으로 그 과정을 찾아 적절한 가중치와 편향치를 정하는 것을 Backpropagation이라고 한다.Backpropagation최종 출력층의 뉴런은 그 이전 계층의 뉴런들의 활동의 결과이므로, 원하는 최종 출력을 얻기 위한 조절 값을 알아낼 수 있다.동시에 모든 훈련 데이터에 대한 "적절한 조절값"을 찾는 것은 몹시 오래 걸리고 많은 계산을 필요로 한다.Mi..
[Project_하다]/[Project_공부] 2024. 7. 4. 12:11
Prev 1 Next