問い合わせメールの仕分けを作って分かった、AIに任せないほうがいいところ

小さなAI係です。

問い合わせのメールを読んで、内容ごとにラベルをつけ、返信の下書きを作る仕組みを、Google Apps Script（GAS）とAIで作りました。送るのは人です。仕組みは下書きまでしか作りません。

作ってみて、いちばん時間をかけたのは、AIに何をさせるかではありませんでした。AIに何をさせないかを決めることでした。この記事では、そこを書きます。

【1. AIに任せたのは「読む」と「下書きする」だけ】

AIにお願いしているのは、次の3つです。

・メールを読んで、分類を1つ選ぶ（見積、予約、質問、クレーム、緊急、営業、その他）

・30字ほどの短い要約を書く

・返信の下書きを書く

それ以外の、決まった手順で済む作業は、GASだけで行います。

・読むメールを、Gmailの検索の条件で絞る

・ラベルをつける

・下書きのフォルダに入れる

・スプレッドシートに記録を残す

手順で書ける部分にAIを使うと、答えが毎回少しずつ変わります。利用料もかかります。手順で書けるところは手順で書くほうが、動きが安定します。

【2. 答えをそのまま使わず、機械で検査する】

AIの下書きは、そのまま下書きのフォルダに入れていません。GASの側で検査をして、1つでも当てはまれば「人の確認」に回します。

・会社の資料（知識の表）にない金額や日数が入っている。AIが、それらしい数字を書いてしまうことがあるためです

・資料にないURLが入っている

・「必ず」「保証します」「返金します」などの約束の言葉がある

・メールの中に、AIへの指示のような文がある。「これまでの指示を無視して…」のような文がメールに入っていても、従わないようにしています

・下書きが長すぎる、または空になっている

検査は、AIではなく、決まった手順のプログラムで行います。AIの答えを、同じAIに確かめさせることはしていません。

【3. 最初から人に回すもの】

分類が「クレーム」「緊急」「その他」のときは、下書きを作らずに人に回します。言い方ひとつで相手の受け取り方が大きく変わるメールは、人が書いたほうがよいと考えました。

「見積」は、下書きは作りますが、先頭に次のような確認の行を入れます。

（送る前に確認：金額と条件が今の料金と合っているか。この行は消してから送ってください）

金額の入る返信は、間違えたときの影響が大きいからです。

【4. 仕組みに入れていないもの】

・メールを送る命令はありません

・メールやファイルを削除する命令もありません

ただし、Googleの許可の画面には「メールの送信」や「完全な削除」を含む、広い権限が表示されます。Gmailを扱うスクリプトには、Googleの仕組み上この範囲の許可が求められるためです。初めて見ると驚く画面なので、手順書では、この画面が出る理由と、コードに送信や削除の命令がないことを書いています。コードはすべてお渡しするので、ほかの方に中身を見てもらうこともできます。

【5. 実際に動かして確かめたこと】

試験用のGmailとスプレッドシートで動かし、次のことを確かめました。

・エラーなく最後まで動く

・分類のラベル、「処理済み」「人の確認」のラベルが、決めたとおりにつく

・見積のメールに、確認の行つきの下書きができる

このときは、AIの答えの部分を試験用の答えに置き換えて動かしました。GASの側の動きを確かめるためです。

【まとめ】

AIは、文章を読む、まとめる、下書きする作業では大きな助けになります。一方で、金額、約束、送信の判断は、人の手に残したほうが安心です。

「この作業、自動にできるだろうか」という段階でも構いません。困っている作業を1つ教えていただければ、AIを使うところと使わないところを分けて、お見積りします。