ChatGPTがどう機能しているかは未解明!? 生みの親が「最高の解説書」と絶賛した一冊

　最近話題に上らない日はないChatGPT。これは何をしていて、どのようにして機能しているのか？ イギリス出身の理論物理学者でソフトウェア会社ウルフラム・リサーチ社CEOのスティーヴン・ウルフラム氏が自身の見解を綴っているのが『ChatGPTの頭の中』（スティーヴン・ウルフラム：著、稲葉通将：監訳、高橋聡：訳/早川書房）。ChatGPTの生みの親であるサム・アルトマン氏が「最高の解説書」と評している一冊です。著者は2016年のSF映画『メッセージ』で異星人の文字言語の解析や恒星間の航行に関する描写の科学考証も担当していて、「言葉が生まれるメカニズム」の未知なる点に、世界トップレベルで精通している1人といえます。

「Generative Pre-trained Transformer／生成的な事前訓練を行ったトランスフォーマー」（「トランスフォーマー」はGoogleが2017年に発表した深層学習モデル）という名が示す通り、ChatGPTは事前に「訓練」を行っています。実は私たち人間が入力した言葉の続きや回答を訓練したとおりに返せるように一つだけ単語を足すことを、1回ずつ繰り返し考えているだけと仕組みのシンプルさを前置きした上で、著者はChatGPTの画期性と特徴をこのように認めています。

だが、驚異的なのは―そして意外でもあるのは―、ウェブ上や書籍などで見られる文章に見事に「似ている」文章をこのプロセスで生成できるということだ。筋の通った人間の言語になっているだけでなく、「読み取った」内容を利用しながら、「プロンプトに即し」た「内容を話す」のである。「普遍的に意味のある」こと（あるいは、正しい計算に対応すること）を常に話すとはかぎらない。

　最後に補足されている通り、「そう語られている」からといってChatGPTが「そう思っている」わけではありません。あくまで「正しいと思われる」ことを述べているにすぎないということです。たとえば、「渋谷のおいしいレストランを10個教えてください」と検索エンジンのようにChatGPTに入力した場合、10個を挙げてくれはしますが、それはChatGPTがそう思っているわけではなく、ネット上の情報からそう判断される情報が書かれています。

「次に続く単語のランク付け」を繰り返すことでChatGPTは文章を生成しますが、著者によると、最高ランクの単語を選び続けると創造性がないフラットな文章になるため、「あえて崩す」というような形でランクが低い単語が選ばれることもあるそうです。そのため、同じ指示でも異なる回答が返ってくることも多く、また、弱点の一つとして、「ありそうな単語の組みあわせ」だけを重視して、存在しないデタラメなものをでっちあげて回答することがしばしばあるということです。

　しかしこの「でっちあげ」「虚構をつくる」という弱点は、いくらか「人間のよう」だと評することもできます。人間の脳内のメカニズムはいまだに解明されていませんが、ChatGPTも「どのように機能しているか」を説明するのは難しいといいます。「どういうわけか人間のようになる」ことの不思議さが、本書では終始一貫しています。

ネコの写真を自分の目で見て、「なぜこれはネコなのか」と自問してみると、たとえば「耳がとがっているから」などという答えが思い浮かぶだろう。だが、その画像をどうやってネコと認識したかを説明するのは、それほど容易なことではない。どういうわけか、自分の脳がそう判別しただけなのだ。しかも、脳に関して、その「内側まで入り込ん」で、どうやって判別したかを研究する術はまったくない（少なくとも今のところ）。

　ChatGPTはただ便利であるというだけではなく、どのように機能しているかというのが開発者、有識者にとっても謎で、「ChatGPTの頭の中」のメカニズムの解明は人間の脳のメカニズムの解明にも大きく寄与し得るのではないでしょうか。そのような「ChatGPTのそもそも論」を深く掘り下げてくれている一冊です。

文＝神保慶政