［とくダネ！ナオキ 第108話］幻覚はなくならない・・・かも
Geminiに次のような質問をしました。
ISO/IEC 39075:2024について詳しく説明してください。
Geminiは次のように回答してきました。
ISO/IEC 39075:2024（情報技術 — ITガバナンス — AIガバナンス）について、詳しく解説します。この規格は、2024年に発行されたばかりの非常に新しい国際規格です。簡単に言うと、「組織のトップ（経営層）が、AIをどうコントロールし、責任を持って活用すべきか」という指針をまとめたものです。（以下省略）
知らなければコロリとだまされそうな、もっともらしい回答です。しかし、この回答はまっかなウソです。
4月1日はまだ先です。
私はISO/IEC 39075:2024がGraph Query Languageに関する規格であることを知っているので、上記回答が幻覚（hallucination）によるものだとわかります。コンプライアンスを守る限り、公式ルートで購入する以外に、国際規格そのものの内容を知る手段はありません。AIはインターネット上にある非公式な情報を集めて回答しているはずです。そこには間違った情報も含まれているわけで、幻覚を見る原因がそこにはあるのです。（ただし、法律に関しては公開情報なので、規格とは異なる状況にあると考えられます。）
続けて、私は次のような問いかけをしました。
Graph Query Languageについて説明してください。
これに対して、Geminiは次のように回答してきました。
まずは、大切な訂正から入らせてください。
前回の回答で「ISO/IEC 39075:2024」をAIガバナンスの規格として説明してしまいましたが、正しくは「ISO/IEC 39075:2024」は、まさに今回ご質問いただいた「GQL (Graph Query Language)」の国際標準規格を指します。
（AIガバナンスの主要規格は ISO/IEC 42001 です。混乱させてしまい申し訳ありません！情報を正して、GQLについて詳しく解説します。）
感情があるわけはないのに「混乱させてしまい申し訳ありません！」と言っています。このような表現に騙されてはいけません。質問者に寄り添ってくれていると考えてはいけません。そうするように構築されているだけですから。
インターネット上にはLLMに対する悲観的な意見を数多く見つけることができます。例えば、最近、次のような記事を読みました。
BREAKING: Sam Altman concedes that we need major breakthroughs beyond mere scaling to get to AGI (速報：サム・アルトマンは、汎用人工知能（AGI）を実現するには、単なる規模拡大以上の大きなブレークスルーが必要だと認めた。)
サム・アルトマンはChat GPTを作ったOpen AI社のCEOだということはみなさんご存じですね。この記事が本当であるという保証はありません。もし、サム・アルトマンがLLMの限界を認めていたとしても、それを公に認めるとは、私には思えません。この記事はライターの願望かもしれません。
しかし、LLMの限界は明らかだと思います。LLMは原理的に幻覚から逃れることはできないでしょう。AIは取り込んだ情報が正しいかどうかの判断はしないからです。インターネット上にフェイクが溢れている昨今、大きなブレークスルーは必要なのです。
