AI 해부교실 · Part 10 ChatGPT 이후의 세계
87장 생각하고 답하기
Q. AI에게 어려운 문제를 내면 '생각 중…'이 뜨는데, 그동안 뭘 하는 걸까요?
- 문제 하나 풀어 볼까요? 빵과 우유를 합쳐서 1,100원, 빵이 우유보다 1,000원 비싸요. 우유는 얼마일까요? 100원이 떠오르죠.
- 이 문제를 모델에게 내고 '답만 바로 써'라고 해 봐요. 첫 조각부터 답을 골라야 하니, 그럴듯한 '100원'이 뽑히기 쉬워요.
- 검산해 봐요. 우유가 100원이면 빵은 1,100원, 합은 1,200원. 틀렸어요! 조각 하나에 쓰는 계산은 모델 한 번뿐이에요(2장).
- '차근차근 풀어 보자'로 시작해 봐요. 우유가 x원이면 빵은 x + 1,000원, 합은 x + (x + 1,000) = 1,100.
- 그러면 2x = 100, x = 50. 우유는 50원! 써 둔 줄을 다시 읽으며 다음 줄을 쓰니까, 어려운 계산을 나눠서 해낸 거예요.
- 풀이를 먼저 쓰게 하는 방법을 사고의 사슬(chain of thought)이라고 해요. 2022년 연구에서 큰 모델일수록 효과가 컸어요.
- 요즘 '추론 모델'은 이걸 훈련으로 익혀요. 답 전에 긴 풀이를 쓰고, 정답을 맞힌 풀이에 점수를 주는 방법이 알려져 있어요(76장).
- 대신 조각을 많이 쓰니 시간이 더 걸리고, 풀이 자체가 틀릴 수도 있어요. 중요한 답은 직접 검산해 봐요.
한 장 요약
- 답만 바로 쓰면 첫 조각에 답을 골라야 해서, 그럴듯한 오답이 나오기 쉽다.
- 풀이를 먼저 쓰면 써 둔 줄을 다시 읽으며 계산을 나눠서 할 수 있다(사고의 사슬).
- 추론 모델은 답 전에 길게 생각하도록 훈련됐다. 대신 느리고, 풀이도 검산이 필요하다.