AI と ハルシネーション

生成AIを用いたいろいろなテクノロジがでてくるにあたり、「ハルシネーション」という言葉がだんだん語られるようになってきています。

通称AIの嘘ともいうのですが、そもそもAIは必ず正しいことを担保する限りではないので、そういわれちゃうAIも気の毒なわけで。

ハルシネーションについて、問題とされるのは「AIの回答は間違っていてもなんだか理路整然としているようにみえる」ことが、大きい。

でもですね。AIだけじゃなくて人間のInterigenceだって、似たようなことはちょいちょい起こるわけで、本人は「これが正しい」と高説を掲げてるけど、それなりに話している内容についてのプロが聞いているといやいやいやそれないわ。ってこと。

本人は本気で言っているわけで、このあたりAIのハルシネーションと似た構造なんじゃないかな。と自分は感じています。

AIとのかかわり方として

１．モデル提示や、条件定義をしっかりと取ったうえで生成させる。

２．AIが出した内容について、とりあえず、観点として抜け落ちがないかチェックする。

３．チェックの結果を踏まえて訂正を促す。

個人的には「現場を知らない優秀な新人さん」との対話の練習になるんじゃないかなと思ってたりもします。