AI 해부교실 · Part 1 AI의 언어는 숫자

12장 함수는 입력→출력 기계

Q. AI 모델도 결국 하나의 '함수'라는데, 무슨 뜻일까요?

1. 숫자를 넣으면 정해진 규칙대로 바꿔서 내보내는 기계. 이게 함수예요.
2. f(x) = 2x + 1이라면, 3을 넣으면 7이 나와요. 5를 넣으면 11. 같은 입력에는 언제나 같은 출력이 나와요.
3. 함수는 이어 붙일 수 있어요. f에서 나온 7을 제곱하는 함수 g에 넣으면 49가 나와요. 이걸 합성이라고 해요.
4. 함수 안에는 조절 손잡이가 있어요. 2x + 1의 2와 1을 바꾸면 기계가 다르게 움직이죠. 이 손잡이를 파라미터라고 해요.
5. GPT도 거대한 함수예요. 글을 넣으면 다음 조각의 확률이 나와요. 안에서는 작은 함수 수백 개가 이어져 있어요.
6. GPT-3에는 손잡이가 1,750억 개 있어요. 학습이란 원하는 답이 나오도록 이 손잡이들을 조금씩 돌리는 거예요.
7. AI 모델은 손잡이가 아주 많은 함수. 손잡이를 돌리는 방법은 Part 2에서 배워요.

한 장 요약

• 함수: 입력을 규칙대로 바꿔 출력하는 기계. 같은 입력 → 같은 출력.
• 함수는 이어 붙일 수 있다(합성). 안의 조절 손잡이 = 파라미터.
• GPT = 파라미터 1,750억 개짜리 함수. 학습 = 손잡이 맞추기.