Lemma
수학, 거꾸로

온도 스케일링

과신하는 분류기를 가장 단순하게 보정하는 방법. 모델은 _로짓_ `z`를 내고, 소프트맥스가 그것을 확률로 바꾼다. *온도 스케일링*은 소프트맥스 *전*에 모든 로짓을 단 하나의 스칼라 `T > 0`으로 나눈다: `softmax(z / T)`. `T = 1`은 모델을 그대로 둔다; `T > 1`은 분포를 평평하게 만든다 (덜 확신); `T < 1`은 더 뾰족하게 만든다 (더 확신). 핵심은, 모든 로짓을 같은 상수로 나눠도 *argmax는 변하지 않는다*는 점 — 예측된 클래스는 바뀌지 않으니 정확도도 그대로다. 변하는 건 신뢰도 숫자뿐. `T`는 검증 셋에서 로그 손실을 최소화하도록 맞춘다; 매개변수 하나, 스칼라 하나, 아키텍처 변경 없음 — 신뢰도 다이어그램이 대각선 아래로 휠 때 보통 가장 먼저 시도할 처방.

관련 용어
사용 위치 · 1