AI 해부교실 · Part 10 ChatGPT 이후의 세계

88장 찾아보고 답하기

Q. 우리 학교 축제 날짜처럼 AI가 배운 적 없는 건 어떻게 물어볼까요?

1. 우리 학교 축제가 언제인지 모델에게 물어볼까요? 모델은 학습할 때 본 글만 알아요. 우리 학교 가정통신문은 본 적이 없죠.
2. 그래도 모델은 다음 조각을 이어 써요. 그럴듯한 날짜를 지어낼 수 있죠. 84장에서 본 환각이에요.
3. 해결책은 간단해요. 답하기 전에 먼저 찾아보기! 학교 문서 더미에서 질문과 관련 있는 문서를 검색해요.
4. 질문과 문서를 각각 숫자 벡터로 바꾸고, 질문과 가까운 문서를 골라요(8장). 축제 안내문이 가장 가까워요.
5. 찾은 문서를 질문과 함께 한 덩어리 글로 모델에 넣어요. '아래 문서를 보고 답해 줘'라는 부탁도 같이요.
6. 이제 모델은 문서에 적힌 날짜를 옮겨 쓰면 돼요. 어느 문서를 보고 답했는지 출처도 달 수 있어요.
7. 이 방법을 검색 증강 생성, 줄여서 RAG라고 해요. 2020년에 나온 이름이에요. 모델을 다시 학습시키지 않고도 새 정보를 써요.
8. 단, 찾은 문서가 틀리면 답도 틀려요. 작년 안내문을 찾으면 작년 날짜로 답하죠. 그래서 출처를 직접 확인해야 해요.

한 장 요약

• 모델은 학습할 때 본 글만 안다. 모르는 걸 물으면 지어낼 수 있다(환각, 84장).
• RAG: 질문과 가까운 문서를 검색해서 프롬프트에 함께 넣고 답하게 한다.
• 출처가 달린 답도 문서가 틀리면 틀린다. 출처를 직접 확인하자.