[AI Math] 경사하강법

미분 미분(differentiation)은 변수의 움직임에 따른 함수값의 변화를 측정하기 위한 도구로, 최적화에서 제일 많이 사용하는 기법이다. In [6]: import sympy as sym from sympy.abc import x sym.diff(sym.poly(x**2 + 2*x + 3), x) Out[6]: $\displaystyle \operatorname{Poly}{\left( 2 x + 2, x, domain=\mathbb{Z} \right)}$ 미분은 함수 f의 주어진 점(x, f(x)) 에서의 접선의 기울기를 구한다. 한 점에서 접선의 기울기를 알면 어느 방향으로 움직여야 함수값이 증가/감소하는지 알 수 있다! 증가시키고 싶다면 미분값을 더하고, 감소시키고 싶다면 미분값을 뺀다. 경사..

→2021.01.26