AI 해부교실 · Part 7 GPT 공부시키기

66장 훈련 루프 한 바퀴

Q. GPT는 수천억 개의 문제를 어떤 순서로 공부할까요?

  1. 지금까지 배운 조각들을 하나로 이어 볼게요. GPT는 네 단계로 된 고리를 수없이 돌면서 공부해요.
  2. ① 예측. '나는 오늘 학교에'를 넣고 다음 조각의 확률을 내요(19장). 처음엔 숫자가 엉망이라 간다가 겨우 12%예요.
  3. ② 손실. 정답 간다에 준 확률로 놀람을 재요(65장). 12%밖에 안 줬으니 놀람이 3.06으로 커요.
  4. ③ 역전파. 손실을 거꾸로 보내며 숫자마다 책임을 나눠요(23장). 간다 점수는 올리고, 늦었다 점수는 내려야 해요.
  5. ④ 업데이트. 책임만큼 숫자를 살짝 고쳐요. 얼마나 크게 고칠지는 학습률이 정해요(22장). 여기선 학습률 1이에요.
  6. 그리고 다시 ①로. 한 바퀴 돌 때마다 간다 확률은 32%, 55%, 69%로 오르고, 놀람은 쭉 줄어요.
  7. 진짜 GPT는 문제를 잔뜩 묶어(24장) 이 고리를 아주 많이 돌며 숫자 1,750억 개를 조금씩 고쳐요. 이게 사전학습이에요.

한 장 요약