모델은 왜 틀린 답에 그렇게 자신만만할까?

점수는 확률이 아니다

분류기의 마지막 층은 클래스마다 하나씩 세 개의 수를 내놓는다. 양수일 필요도, 합이 특정 값이어야 할 필요도 없다. 가공되지 않은 로짓 , 그러니까 날것의 점수일 뿐이다. $z = [2.0, 1.0, 0.5]$는 모델이 클래스 0 쪽으로 가장 크게 “기울었다”는 것만 말해 줄 뿐, “클래스 0일 확률이 65%“라고 한 적은 없다. 그런 수는 아직 어디에도 없다.

세 실수를 합이 1인 양수 셋으로 옮겨 줄 함수가 필요하다. 그런 함수는 얼마든지 있다. 우리가 굳이 softmax를 쓰는 이유, 왜 하필 이 함수인지가 다음 절의 핵심이다.

Softmax — 지수 취하고, 정규화

softmax는 두 단계로 끝난다. 먼저 각 값을 $e$의 거듭제곱으로 올린다: $[e^2.0, e^1.0, e^0.5] ≈ [7.39, 2.72, 1.65]$. 이걸로 일단 모두 양수가 됐다. 다음으로 전체 합으로 나눠 합이 1이 되게 맞춘다: $≈ [0.629, 0.231, 0.140]$. 이게 끝이다. 모두 양수, 합은 1 — 영락없이 확률 분포 모양이다.

exp 단계는 아무렇게나 고른 게 아니다. $e$의 실수 거듭제곱은 늘 양수이므로 양수성이 보장되고, softmax가 로짓의 차이에만 반응하게 만든다. 모든 로짓에 같은 상수를 더해도 결과가 변하지 않는다는 뜻이다. 이 성질의 여파는 만만치 않다. softmax는 점수의 절대적 크기를 알지 못한다. 누가 누구보다 얼마나 앞서 있는지, 그것만 본다.

import numpy as np

# Three logits — raw scores. No truth check anywhere.
z = np.array([2.0, 1.0, 0.5])

# Numerically stable softmax: subtract max before exp.
def softmax(z, T=1.0):
    s = z / T
    s = s - s.max()
    e = np.exp(s)
    return e / e.sum()

p = softmax(z)
# p ≈ [0.659, 0.242, 0.099]   (sums to 1)
# Same logits + 100 give the same p — softmax depends only on differences.
softmax(z + 100)
# → [0.659, 0.242, 0.099]

교차 엔트로피 — 정답에 부여한 확률을 벌하라

이제 확률 벡터가 손에 있다. 정답이 클래스 0이라고 하자. 우리가 들여다볼 값은 $p_0$, 모델이 정답 자리에 매긴 수다. 훈련 신호는 $p_0 = 1$일 때 0(완벽), $p_0$가 작을 때 커야 한다(자신만만하게 틀린 경우). 이 조건을 가장 단순하게 채워 주는 게 $−\log p_0$, 곧 교차 엔트로피 다. 정답이 하나인 분류 문제에서 교차 엔트로피는 그 정답의 음의 로그우도와 정확히 일치한다. 같은 수를 두 이름으로 부르는 셈이다(CE는 진실을 분포로 본다 — 여기선 원-핫. NLL 은 진실을 관측 하나로 본다).

log 를 쓰는 이유는 단순하다. 독립적인 관측은 가능도를 곱으로 합치고, log는 곱셈을 덧셈으로 풀어 준다. 그러면 데이터셋 전체 손실이 깔끔한 합으로 정리된다: $L = Σ −\log p(y_i | x_i)$. 로그 모듈이 단 한 줄로 들어 올리는 바로 그 항등식이다.

# In PyTorch, log_softmax + nll_loss is the numerically stable cross-entropy.
import torch
import torch.nn.functional as F

z = torch.tensor([[2.0, 1.0, 0.5]])      # logits, batch of 1
y = torch.tensor([0])                     # true class — 'cat' at index 0

log_p = F.log_softmax(z, dim=1)           # avoids log(softmax) overflow
loss  = F.nll_loss(log_p, y)
# loss ≈ 0.417  =  −log p_true  =  −log(0.659)
#
# Why log_softmax not log(softmax)?
# log(softmax) computes exp() first → overflow when logits are large.
# log_softmax keeps things in log-space the whole way through.

온도 — 자신감 다이얼

$softmax(z)$ 자리에 $softmax(z/T)$를 끼워 넣어 보자. 온도 T < 1이면 로짓을 작은 수로 나누는 셈이라 차이가 증폭되고 — 1등이 멀찍이 달아난다. T > 1이면 차이가 줄어들어 분포가 평평해진다. 위젯에서 그대로 드러난다. T를 0.1 쪽으로 끌면 막대 하나가 천장을 친다. 1등이 바뀌는 것도 아니다. 틀렸다는 사실이 달라지는 것도 아니다. 달라지는 건 모델이 보고하는 자신감뿐이고, 그 자신감 위에 얹힌 교차 엔트로피 손실이 함께 출렁일 뿐이다.

자신감 ≠ 진실 — 함정, 명시적으로

로짓을 $[5.0, 1.0, 0.5]$로 놓아 보자. 모델이 클래스 0에 단단히 마음을 굳힌 상태다. softmax를 통과시키면 $p ≈ [0.978, 0.018, 0.011]$, 자신감 97.8%다. 그런데 진실은 이 계산과 아무 상관이 없다. 실제 정답이 클래스 1이라면 $p_{\text{정답}} = 0.018$, 손실은 $−\log 0.018 ≈ 4.0$. 모델은 자신만만하면서 동시에 틀렸다. 온도를 더 낮추면 자신감은 더 부풀고, 손실은 더 빠르게 치솟는다.

그래서 “모델이 97%라고 했으니 맞겠지”는 범주를 헷갈린 말이다. 확률처럼 보인다와 현실과 들어맞는다는 서로 다른 이야기다. 이 둘을 정렬시키는 작업은 따로 이름이 있다. 캘리브레이션. 그러려면 훈련 중에는 모델이 보지 못하는 데이터가 필요하다.

# The trap: a wrong score can produce a confident probability.
import numpy as np

z = np.array([5.0, 1.0, 0.5])        # model is sure of class 0
true_idx = 1                          # but truth is class 1
p = softmax(z)
# p ≈ [0.978, 0.018, 0.011]
# 97.8% confidence — and wrong.
loss = -np.log(p[true_idx])
# loss ≈ 4.0   (huge — log explodes as p_true → 0)
#
# Lower the temperature, and confidence rises further while truth is unchanged.
softmax(z, T=0.5)[0]                 # ≈ 0.99964   (even more sure)