← 보드딥러닝이 뭐예요 + 학습 과정 큰 그림 · 5/11
Forward와 Loss — 예측하고 틀린 정도를 재요
Forward는 x를 모델에 넣어 예측값 ŷ을 얻는 단계예요. 이때 모델에는 feature만 넣어요. 정답 T는 넣지 않아요. 정답을 같이 넣으면 컨닝이니까요.
Loss(손실)는 예측값 ŷ과 정답 T가 얼마나 다른지를 숫자 하나로 나타낸 거예요. Loss가 클수록 많이 틀렸다는 뜻이에요. 교수님 예시에서 첫 학생의 실제 기말 점수가 70점인데 모델이 45점으로 예측했다면 차이는 25점이에요. 이 차이가 loss의 출발점이에요.
회귀 문제에서 자주 쓰는 loss가 MSE(평균제곱오차)예요. 차이를 제곱해서 평균을 내요. 제곱하면 +와 −가 서로 지워지지 않고, 큰 오차에는 더 큰 벌점이 붙어요.
import torch
from torch import nn
prediction = torch.tensor([3.0, 4.0])
target = torch.tensor([1.0, 5.0])
squared_error = (prediction - target) ** 2
print(squared_error)
print(squared_error.mean())
print(nn.MSELoss()(prediction, target))
tensor([4., 1.])
tensor(2.5000)
tensor(2.5000)
| 코드 줄 | 무슨 뜻 |
|---|---|
prediction - target | 같은 자리끼리 뺀다 → [3−1, 4−5] = [2, −1] |
(...) ** 2 | 각각 제곱 → [4, 1] |
.mean() | 평균 → (4+1)/2 = 2.5 |
nn.MSELoss()(prediction, target) | PyTorch가 같은 계산을 대신 해 줘요. 결과가 같아요 |
시험엔 이렇게 써요 — 이렇게 고르세요
Loss는 모델의 예측값과 정답의 차이를 하나의 숫자로 나타낸 것이며 클수록 예측이 많이 틀렸다는 뜻이다. 예측(forward)에는 feature만 사용하고 정답은 loss 계산에만 사용한다.
잠깐 확인 — 예측이 [2, 6], 정답이 [2, 4]일 때 MSE는?
차이는 [0, 2]이고 제곱하면 [0, 4]예요. 평균은 (0+4)/2 = 2예요.
다음 카드 → Gradient — loss가 줄어드는 방향 찾기 ★★
자료: 4주차 · 딥러닝 모델 Training 과정.pdf, Week04 Autograd_Loss_Optimizer.ipynb · 빅데이터04(4주차) 녹취, 빅데이터03·07 녹취 일부