손실 함수

"모델이 틀렸다"를 한 숫자로 바꾸는 함수. 모델의 예측 `ŷ`와 실제 라벨 `y`가 주어졌을 때 손실은 `L(ŷ, y)` — 예측이 가까우면 작고, 멀면 크다. 제곱 오차 `(ŷ − y)²`는 회귀의 표준 선택지: 매끄럽고 미분이 쉽기 때문. 교차 엔트로피는 분류의 표준. 모델 *훈련*은 데이터셋 전체에 대한 손실의 합을 가능한 한 작게 만들도록 매개변수를 바꾸는 일.