Machine Learnung에서 수학의 역할이 무엇일까요 ? 수학은 목적함수를 정의하고, 목적함수가 최저가 되는 점을 찾아주는 최적화 이론을 제공합니다. 최적화 이론에 규제, 모멘텀, 학습률, 멈춤조건과 같은 제어를 추가하여 알고리즘 만들어가는 것입니다. 우리는 이런 알고리즘에 적절한 값을 입력하고 설계하고 데이터 실험하는 역할을 하게 됩니다. 올해는 이 긴 흐름을 쭉 작성해보고자 합니다. 우선 최적화에 대해서 설명하려 합니다 이번 포스팅 목차는 이렇습니다. 1. 순수 수학 최적화와 기계 학습 최적화의 차이 2. 머신러닝 최적화 알고리즘 방법 3. $\Theta$ 가 가장 작아지는 방법(미분) 4. 여러개 변수의 최적화(편미분) 5. 머신러닝에서 독립변수와 종속변수 1. 순수 수학 최적화와 기계 학습 ..