AI 해부교실 · Part 8 ChatGPT의 탄생

77장 대화는 사실 긴 문서

Q. ChatGPT는 내가 한 말과 자기가 한 말을 어떻게 구별할까요?

  1. 채팅 화면에서는 말풍선이 오가요. 내가 묻고, ChatGPT가 대답하고, 내가 또 물어요.
  2. 그런데 모델에 들어갈 때는 말풍선이 없어요. 대화 전체가 이어 붙여져서 하나의 긴 글이 돼요.
  3. 누가 한 말인지 알 수 있게 특별한 표시 토큰을 끼워 넣어요. '여기부터 사용자', '여기부터 어시스턴트' 같은 표시예요.
  4. 맨 앞에는 사용자 눈에 안 보이는 시스템 프롬프트(system prompt)가 붙어요. 모델이 지킬 역할과 말투를 적어 둔 거예요.
  5. 예를 들면 이런 모양이에요. 표시의 생김새는 회사나 모델마다 다르지만, 생각은 똑같아요.
  6. 글 끝에는 '어시스턴트 차례' 표시만 놓고 비워 둬요. 그러면 모델은 1장처럼 다음 조각을 예측해 이어 쓸 뿐이에요.
  7. 다 쓰면 끝 표시를 내고 멈춰요(2장). 73장의 모범 답안도 이 모양으로 학습해서, 이 자리에선 대답이 나와요.
  8. 대화가 길어질수록 이 문서도 길어져요. 모델은 매번 앞의 대화를 전부 다시 읽어요. 83장에서 다시 봐요.

한 장 요약