[NLP] BoW(Bag of words)

Bag of Words 단어 및 문서를 숫자형태로 나타내는 가장 간단한 기법으로서 TextMining 분야에서 딥러닝 기술이 적용되기 이전에 많이 활용되던 방식이라고 한다. Step 1. Constructing the vocabulary containing unique words Example sentences: "John really really loves this movie", "Jane really likes this song" 이 문장에서 really와 this는 중복되기에 한 번만 포함하면 된다. Vocabulary: {"John", "really", "loves", "this", "movie", "Jane", "likes", "song"} Step 2. Encoding unique words ..

→2021.02.17

[AI Math] 경사하강법

미분 미분(differentiation)은 변수의 움직임에 따른 함수값의 변화를 측정하기 위한 도구로, 최적화에서 제일 많이 사용하는 기법이다. In [6]: import sympy as sym from sympy.abc import x sym.diff(sym.poly(x**2 + 2*x + 3), x) Out[6]: $\displaystyle \operatorname{Poly}{\left( 2 x + 2, x, domain=\mathbb{Z} \right)}$ 미분은 함수 f의 주어진 점(x, f(x)) 에서의 접선의 기울기를 구한다. 한 점에서 접선의 기울기를 알면 어느 방향으로 움직여야 함수값이 증가/감소하는지 알 수 있다! 증가시키고 싶다면 미분값을 더하고, 감소시키고 싶다면 미분값을 뺀다. 경사..

→2021.01.26