AI 해부교실 · Part 2 기계는 어떻게 배우나

20장 얼마나 틀렸나: 손실

Q. AI가 틀렸다는 건 알겠는데, '얼마나' 틀렸는지는 어떻게 잴까요?

  1. 16장 뉴런은 가게 A를 3.5점으로 예상했어요. 그런데 친구들이 먹어 보고 매긴 진짜 별점은 4.5점이에요.
  2. 틀린 정도는 화살과 과녁 사이의 거리예요. 예측 빼기 정답, 3.5 − 4.5 = −1. 1점 모자라게 맞혔어요.
  3. 가게 셋을 채점해 볼게요. A는 −1, B는 +1, C는 −0.5. 그냥 더하면 −0.5라 거의 안 틀린 것처럼 보여요.
  4. 부호를 없애려고 틀린 정도를 제곱해요. 절댓값을 써도 되지만, 제곱하면 크게 틀린 걸 더 크게 혼내요.
  5. 제곱한 값의 평균은 2.25 ÷ 3 = 0.75. 이 숫자 하나가 손실(loss)이에요. 0이면 모두 맞힌 거예요.
  6. GPT는 별점 대신 다음 단어를 맞혀요. 그래서 정답 단어에 확률을 얼마나 줬는지로 채점해요. 65장에서 배워요.
  7. 이제 목표가 생겼어요. 손실이 0에 가까워지게 손잡이를 찾는 것. 찾는 방법은 21장에서 봐요.

한 장 요약