AIコンシェルジュに「答えない」選択肢を入れた話

今日は、自主開発している旅館向けAIコンシェルジュの回答ルールを見直した。

作っているのは、施設案内、よくある質問、周辺観光情報を知識ベースにまとめ、宿泊客の質問へ多言語で答える仕組みだ。フロントには似た問い合わせが何度も届く一方、固定のFAQページだけでは、言い回しの違う質問まで拾いきれない。必要な情報へ短時間でたどり着ける入口としてAIを使いたかった。

一番詰まったのは、AIに「分からない」と言わせる部分だった。文章を自然に作ること自体はできても、登録情報にない時間、料金、利用条件まで、それらしく補ってしまえば案内としては危険になる。特に施設固有のルールは、一般的な旅行知識で埋めてはいけない。

そこで処理を「質問に近い情報を探す工程」と「見つかった根拠だけで回答を組み立てる工程」に分けた。施設情報、FAQ、周辺案内も同じ箱へ混ぜず、情報の種類を保ったまま検索する。使える根拠が見つからない場合は推測を続けず、登録情報では確認できないことを伝え、スタッフ確認へ切り替える形にした。

確認では、同じ意味の質問を日本語と英語で言い換え、参照した情報と回答内容がずれていないかを見た。AI機能は「答えられる数」を増やすだけでなく、「答えてはいけない場面」を決めるところまでが実装だと改めて感じた。

次は、回答できなかった質問の傾向と、元情報の更新時期を管理画面で確認できるようにする。現場で不足に気づき、知識ベースを安全に育てられる流れまで整えたい。

同じような社内・店舗向けAIチャットボットの開発や改善は、ココナラの「社内データAIチャットボット」サービスからご相談いただけます。