AI 해부교실 · Part 8 ChatGPT의 탄생

79장 안전한 AI 만들기

Q. AI는 어떤 부탁을 거절해야 할까요? 너무 많이 거절하면요?

  1. ChatGPT는 매일 엄청나게 많은 사람이 써요. 그중에는 다른 사람을 해치는 데 쓰려는 부탁도 섞여 있어요.
  2. 모델이 사람의 뜻과 가치에 맞게 움직이도록 만드는 일을 정렬(alignment)이라고 해요. 73장과 76장이 그 도구였어요.
  3. 위험한 부탁은 거절하도록 가르쳐요. 친구 비밀번호를 몰래 알아내는 법 같은 거요. 대신 할 수 있는 일을 알려 주죠.
  4. 그런데 너무 겁이 많아도 문제예요. '칼'이라는 단어만 보고 양파 써는 법까지 거절하면 쓸모가 없죠.
  5. 그래서 균형이 필요해요. 너무 깐깐하면 괜찮은 부탁까지 거절하고, 너무 느슨하면 위험한 부탁을 들어줘요.
  6. 좋은 거절은 짧고 정중해요. 훈계하지 않고, 이유를 간단히 말하고, 도울 수 있는 다른 길을 알려 줘요.
  7. Part 8 정리! 베이스 모델에 모범 답안, 순위와 채점관, 칭찬을 더하고 대화 모양을 입혀서 ChatGPT가 됐어요.
  8. 이제 대답이 만들어지는 순간을 볼 차례예요. Part 9에서는 다음 조각을 어떻게 고르는지 자세히 봐요.

한 장 요약