「AIがそう言ったから」は危ない？品質評価エンジニアが教える生成AIの基礎

はじめに

AIシステムの品質評価を本業にしているエンジニアです。

最近は「仕事でAIを使ってみて」と言われる機会が増えたと思います。

便利な道具であることは間違いありません。

ただ、仕組みと弱点を知らずに使うと、思わぬところで困ることがあります。

この記事では、AIを使う側が最低限知っておくと安心なことをまとめます。

難しい技術の話はしませんので、気軽に読んでみてください。

1. 生成AIは何をしているのか

まず一番大事なことを一つだけお伝えします。

生成AIは、質問の答えを調べて返しているわけではありません。

それまでの文章に続く「それらしい言葉」を一つずつ選んで文章を作っています。

この「それらしい続きを作る」という性質が、生成AIの強みであり、同時に弱点でもあります。

このあと紹介するリスクは、ほとんどがここから生まれています。

2. 得意なこと・苦手なこと

生成AIは、下書きや要約を依頼する際、大変心強い味方となります。

一方で、正確さが求められることは苦手です。

文章を作ることが得意なので、知らないことでも答えを作れてしまいます。

3. 仕事で使うときの5つのリスク

リスク1：もっともらしい嘘をつく

実在しない法律、存在しない論文、間違った日付などを、自信満々に答えることがあります。

これは「ハルシネーション」と呼ばれています。

文章が自然なため、読んだ人が気づきにくい点が厄介なところです。

リスク2：同じ質問でも答えが変わる

生成AIは、同じ質問をしても毎回少しずつ違う答えを返します。

文章のバリエーションなら問題ありませんが、判断や結論が毎回変わるようだと困ります。

一度だけ聞いて「こういう答えだった」と決めてしまうのは、少し危ないかもしれません。

リスク3：入力した情報の扱いを意識していない

便利さのあまり、社外秘の資料やお客様の個人情報をそのまま貼り付けてしまうことがあります。

使っているサービスや設定によっては、入力内容が保存されたり、サービス改善に使われたりする場合があります。

会社のルールと、使うサービスの規約を一度確認しておきましょう。

リスク4：知識に期限がある

生成AIが学習している情報には、いつまでの情報かという期限があります。

それ以降の制度変更や新製品については、知らないまま古い情報で答えることがあります。

しかも「古い情報かもしれません」と教えてくれるとは限りません。

リスク5：答えに偏りが出ることがある

学習した文章に偏りがあると、答えにもその偏りが表れることがあります。

特定の考え方に寄った意見を、あたかも一般論のように返すこともあります。

人の評価や採用など、公平さが大事な場面では特に注意が必要です。

4. 今日からできる3つのチェック

次の3つを習慣にするだけで、リスクは低減できます。

どれも数十秒でできることばかりです。

まずは一つ、今日から試してみてください。

5. まとめ

生成AIは、とても優秀な部下のような存在です。

仕事は速く、文章を書くのも上手です。

ただし、最後に確認して責任を持つのは、使う側の人間です。

仕組みと弱点を知っておけば、AIはもっと安心して頼れる相棒になります。

ご案内

生成AIの使い方を、自分の仕事に合わせて身につけたい方へ

レッスンでは、お客様に寄り添ったAI活用方法をご案内をさせていただきます。また、30日間無料でご相談対応させていただきます。

社内のAIチャットボット・AIツールの回答品質が気になる方へ

「AIが正しく答えられているか」を第三者の目で確かめ、

レポートにまとめるサービスも行っています。

---