社内マニュアルをAIに答えさせるときの注意点|「資料にないことは答えない」設計が大事

社内マニュアルをAIに答えさせるときの注意点|「資料にないことは答えない」設計が大事

記事
ビジネス・マーケティング
社内マニュアルや規程集をAIに読ませて、質問に答えさせる仕組み(Q&Aボット)が、使われ始めています。 便利な反面、資料にないことを、もっともらしく答えてしまうことが、大きな落とし穴です。

■ よくある失敗 ・資料に書いていない内容を、AIが推測で答える ・古い規程と新しい規程が混ざり、どちらの内容か分からない ・答えが正しいかどうか、確認する方法がない

■ 対策の考え方

資料の範囲だけで答えさせる。 資料にないときは、「記載がありません」と答える設計にします。
根拠のページを一緒に表示する。 答えを見た人が、元の資料で確認できます。
資料のバージョンを管理する。 更新した日付を残し、古い資料を混ぜません。
答えられなかった質問を記録する。 資料の足りない部分が、分かります。
■ 向いている資料・向かない資料 ・向いている: マニュアル、規程集、FAQ、商品資料など、文章が中心の資料 ・注意が必要: スキャンした画像だけのPDF、表が非常に多い資料(読み取り精度が下がることがあります)

■ 機密資料の扱い 資料の内容を、外部のAIサービスに送る場合は、会社の情報の取り扱いルールと、サービスの利用条件を、先に確認してください。

「根拠ページつきで、資料にないことは答えない」形のQ&Aボットを、制作しています。 ▶ PDF・マニュアルから答えるQ&Aボットを作ります [https://coconala.com/services/4445436]

サービス数40万件のスキルマーケット、あなたにぴったりのサービスを探す