반응형 dotproduct1 연쇄법칙과 역전파 / Chain Rule, Backpropagation / 행렬의 내곱 역전파 증명 https://jangpiano-science.tistory.com/114?category=914257 미분 함수(중앙차분)를 이용한 경사하강법 파이썬 구현 및 시각화 / gradient descent using differentiation 경사하강법(gradient descent)이란, 함수에서 기울어진 곳으로 이동해 함수의 극소값을 찾는 최적화(optimization) 알고리즘입니다. 최적화란, jangpiano-science.tistory.com 앞 포스팅에서, 수치미분을 사용하여 신경망의 가중치 매개변수의 기울기를 구하는 방법을 소개하였습니다. 우리는 다음과 같은 순서로, 손실함수의 극소값을 찾았습니다. 1. 손실함수에 대한 가중치 매개변수의 기울기를 구한다. 2. 매개변수를 극솟값 쪽으로 이동하.. 2021. 2. 20. 이전 1 다음 반응형
