AI 해부교실 · Part 1 AI의 언어는 숫자
13장 확률 분포
Q. '아마 비가 올 거야'를 숫자로 말하면 어떻게 될까요?
- 주사위를 던지면 1부터 6까지 각각 6분의 1의 확률로 나와요. 중학교 때 배운 확률이죠.
- 결과마다 확률을 막대로 세우면 확률 분포가 돼요. 막대 높이를 모두 더하면 언제나 1, 즉 100%예요.
- 모든 분포가 고르지는 않아요. 아침 메뉴라면 밥이 높고 피자는 낮겠죠. 이런 걸 뾰족한 분포라고 해요.
- GPT는 매 순간 이런 분포를 내놓아요. 후보는 약 5만 개 조각, 막대도 5만 개. 그래도 합은 딱 1이에요.
- 분포에서 하나를 뽑을 때, 높은 막대일수록 잘 뽑혀요. 하지만 낮은 막대도 가끔은 뽑혀요.
- 분포가 뾰족하면 대답이 한결같고, 평평하면 다양해져요. 81장에서는 온도로 이걸 조절해요.
- 확률 분포는 모든 후보의 가능성, 그리고 합은 1. 다음 14장에선 점수를 이런 분포로 바꾸는 법을 배워요.
한 장 요약
- 확률 분포: 후보마다 가능성을 매긴 것. 막대를 모두 더하면 1.
- 높은 막대일수록 잘 뽑히지만, 낮은 막대도 가끔 뽑힌다.
- GPT는 매번 약 5만 개 후보의 분포를 내고, 거기서 하나를 뽑는다.