AIの出力の間違いに誰も気づけない箇所を特定します

AIに業務を任せたあと、出てきた答えが合っているかを確認できていますか。 「間違っていても誰も気づかない」場所が、たいていどの業務にも1つはあります。その場所を特定して、1件だけ、実際に検出できる形にします。 ■ お渡しするもの ① AIの出力がそのまま信用されている箇所の一覧 ② 各箇所に「間違ったとき誰が気づくか」を記入。気づく人がいない箇所は分けて示します ③ そのうち一番上の1件について、間違いを実際に検出する検査を作ります。通るところではなく、落ちるところをお見せします ④ 直すコストが損失を上回る箇所は「直さない」と書きます ■ 対象 AIを業務に入れた、または入れようとしている小規模な事業者の方。AIの知識は不要です。むしろ「出てきた答えを検算できない」状態が対象です。 ■ 範囲 業務1手順（問い合わせ対応、見積作成、集計、在庫、経理の一工程など）が対象です。事業全体の診断や新しいシステムの開発は含みません。 本番環境のパスワードやAPIキーは受け取りません。検査はお客様ご自身の環境で動かしていただく形にしています。 ■ 進め方 1. 購入時の3つの質問にお答えいただきます（数分） 2. 対象を1手順に確定します 3. こちらで手順を追い、一覧と検査を作ります 4. 検査が実際に間違いを検出するところをご確認いただきます お客様のお時間は合計30分前後です。 ■ 実績について 正直に書きます。これが最初の出品で、お客様の導入実績はまだありません。他社事例やROIの数字もありません。持っていないものを書くことはしません。 お見せできるのは、自分のシステムで実際に見つけた欠陥の記録です。いずれも「テストが通っている状態」で起きていました。 ・使っていない費用が支出として集計されていた（テスト実行が実績に混ざる形） ・自動送信された通知が、お客様からの返信として数えられていた ・検査が対象に当たらず、何も報告せずに通過していた ・空欄の条件が入力チェックを素通りしていた 4件とも同じ形をしています。測定や検査が、対象そのものではなく、隣にある特徴で書かれていた。 ■ お約束しないこと 業績が良くなることはお約束しません。検出できるようになることと、売上が増えることは別のことです。