AIはなぜ“うそ”をつく？誰でもできる「ハルシネーション」対策

近年ますます進化を遂げるAI。しかし、その活用において注意したいのが「ハルシネーション（幻覚）」と呼ばれる現象です。

これは、AIが事実とは異なる情報をあたかも正確であるかのように提示してしまう問題のこと。特に大規模言語モデル（LLM）ではこのリスクがつきまといます。

たとえば、

「アメリカの首都はロンドン」

「67歳のティーンエイジャー」

クッキーのレシピを聞いたのに、最寄りのスーパーへの道順を教えられる

──こんな“おかしな”返答が、実際に起こるのです。

なぜAIは“うそ”をつくのか？4つの主な原因

学習データの限界

AIは与えられたデータで学びます。未学習の内容でも「答えなければ」と頑張ってしまい、結果的に不正確な情報を生み出すことがあります。

コンテキストウィンドウの制限

AIは一度に扱える情報量（トークン数）に上限があります。必要な情報が入りきらなければ、文脈を誤って解釈してしまうのです。

アテンションメカニズムの誤作動

AIは質問の中で「どの部分が重要か」を自動的に判断しています。しかし、焦点を間違えると、まったく関係ない話を始めてしまうことも。

過学習（オーバーフィッティング）

特定のフレーズばかり学習してしまうと、他の情報を無視するようになってしまいます。たとえば「バラ＝赤い」とだけ学んだAIは、青や白のバラの存在を忘れてしまうのです。

ハルシネーション対策：今すぐできる7つの工夫

ハルシネーションは完全に防ぐことは難しいですが、以下のような工夫でリスクを最小限に抑えることが可能です。

✅ 正確な学習データを増やす

✅ 高品質な構造化データを使う

✅ AIに扱える文脈量（コンテキストウィンドウ）を増やす

✅ RAG（検索拡張生成）を活用する

→ 社内資料や信頼できる外部ソースを参照しながら回答させる仕組みです。

✅ ファインチューニングを行う

→ 特定業務に合わせて調整されたモデルの活用。

✅ 回答のフィルタリングを行う

→ AIの回答を人や他のAIで確認し、不適切な内容をブロック。

✅ プロンプトの工夫（プロンプトエンジニアリング）

→ 質問内容や文脈を明確に伝えるよう、指示文を練る。

今後、AIの「幻覚」はなくなるのか？

2024年に発表された研究によると、GPT-3.5のハルシネーション率は39.6%、GPT-4では28.6%にまで減少しています。

確かに改善は見られるものの、ゼロにはなりません。

その理由は以下のとおりです

あらゆる質問に対応できるほどの「完全な学習データ」は存在しない

無限の情報を処理できる「無限サイズのコンテキストウィンドウ」は現実的でない

アテンション機構や過学習の限界を完全に克服するのは困難

そのため、柔軟性を多少犠牲にしてでも、「決定論的システム（常に同じ質問に同じ回答）」を導入するという選択肢もあります。ですが、これでは想定外の質問に対応できないというデメリットもあります。

まとめ

AIは便利ですが、「うそをつく」こともある──その事実を正しく理解し、適切に付き合うことが、今後ますます重要になってきます。

ハルシネーションを恐れず、活用する力を磨く。その一歩が、これからのAI時代を生き抜く武器になるでしょう。