경사하강법1 [인공지능] 인공지능 기초 - Gradient Descent 인공지능은 스스로 Parameter를 조정하여 정답을 만들어낸다. 이 때, Parameter를 조정하기 위해서는 Optimize(최적화)를 해야 하는데, Optimize에서 쓸 수 있는 방법들을 Optimizer라고 한다. 오늘은 Optimizer의 가장 기본 중의 기본인 Gradient Descent(경사하강법)에 대하여 알아볼 것이다. 1. Gradient Descent (경사하강법) 먼저 아래와 같은 이차 함수 그래프를 보자 이 그래프에서 현재 x가 -5라고 가정하자. 우리는 y를 최소로 하고 싶다면 어떻게 해야 하겠는가? 그렇다. x를 0으로 바꾸면 된다. 그러나, 우리들이 이 함수가 이차함수 y = x^2임을 모르거나, 해석하기 어려울 정도로 복잡한 함수라면? 우리들이 알 수 있는 것은 접선의 .. 2022. 12. 27. 이전 1 다음
