AI解剖教室 · Part 0 ChatGPT、きみは誰？

第1章 次の言葉当てゲーム

Q. ChatGPTは、質問を聞いて答え全体を一度に思いついているのでしょうか？

1. 文がひとつあります。「私は今日学校に」の次には、どんな言葉が来るでしょう？
2. 候補はたくさんあります。行く、行った、遅れた…変ですが「ピザ」が来ることもありえます。
3. ChatGPTは、候補ごとに次に来る可能性を数字で計算します。これが確率です。
4. いちばんありそうな「行く」を選んで、空欄につなげます。
5. そしてまた最初から！長くなった文を見て、また次の言葉を予測します。今度は「。」が選ばれましたね。
6. ChatGPTがしているのはこれだけです。次の言葉をとてもうまく当てて、それをくり返すこと。
7. でも次の言葉をうまく当てるには、知識も規則も常識も必要です。その力がどこから来るのかが、これからの話です。

この章のまとめ

• ChatGPTは次に来る言葉の確率を計算する。
• いちばんありそうな言葉を選んでつなげ、また予測する。
• このくり返しだけで長い答えができあがる。