AIは万能ではない。だから私は確認する。

AIを使うようになっても、変わらなかったことがひとつあります。

最後は必ず、自分で確認する。

これだけは、譲っていません。

前回は「私はこういう姿勢でAIと向き合っています」という話をしました。

今回はその続きです。

その姿勢を、実際の仕事の中でどう形にしているか、という話をします。

AIが書く文章は、驚くほど自然です。

読んでいて引っかかりがなく、そのまま使えそうに見えることすらあります。ですが制度名や数字を一つひとつ確認していくと、事実とずれている箇所がふと顔を出す瞬間があります。

そのたびに思うのです。手を抜かないでよかった、と。

AIは万能ではないから使わない、ではありません。

使う以上、最後は人が責任を持って確認する。

話はそれだけです。

もっともらしく間違える、というやっかいさ

AIは事実を調べながら書いているわけではありません。

学習した大量の文章から、自然に続きそうな言葉をつなげているだけです。

だから存在しない制度名や、実際とは違う数字が出てきても、まるで最初から正しかったような顔をしています。

悪意があるわけではありません。

正しさを保証する仕組みが、そもそも組み込まれていないだけです。

疑ってかかる必要はありません。

むしろ逆で、自然に見える文章ほど確認が必要だ、というくらいに考えておいたほうがいい。

違和感のある文章のほうが、実はまだ扱いやすいものです。

 どこまで確認するか、という線引き

すべてを一律に確認しているわけではありません。

それをやっていたら時間が足りず、仕事そのものが回らなくなります。

なので優先順位をつけています。

読者の判断に直接影響する情報から、確認する。

具体的には次のようなものです。

・制度名・法律名(名称や施行時期のずれがないか)

・ 数字(統計、金額、件数などの根拠)

・論文や調査の出典(実在するか、内容と一致しているか)

・引用(発言や記述をそのまま持ってきていないか)

・肩書き・経歴に関する記述(本人の実態と一致しているか)

一方で、言い回しの調整や構成のたたき台は、AIに任せて問題ないと考えています。

読者が信じてしまう部分と、書き手の裁量で調整できる部分。

ここを分けて扱う。

少しでも「あれ」と引っかかる瞬間があれば、正しい情報を持っている側が一次情報まで戻って確認する。

地味な作業ですが、これがファクトチェックであり、ハルシネーションを防ぐ最後の砦だと思っています。

 介護職として働く中で見えてきたこと

介護職として働く中で、制度や地域の仕組みに関わる場面は少なくありません。

だからAIが出してくる制度名や数字には、人一倍、注意して目を通します。

実際、制度名や数字が実態とずれているケースを何度も目にしてきました。

厄介なのは、読みにくい文章ではないということです。

むしろ整っていて、違和感もなく読める。

だからこそ余計に怖いのです。

確認を怠れば、そのまま読者に間違った情報を届けてしまいます。

この積み重ねが、確認する習慣を崩さないという姿勢につながっています。

AIを使う人間としての責任

AIを否定するつもりはありません。

文章を組み立てるスピードも、構成のたたき台を作る力も、実務では確実に助けになっています。

正直、もう手放せないと感じる場面すらあります。

ただ、AIが出してきた情報をそのまま公開するかどうかを判断するのは、人間の役割です。

ここを放棄した瞬間に、AIは便利な道具ではなくなります。

責任の所在が曖昧な、ただのブラックボックスに変わります。

AIを使うことと、文章の責任をAIに委ねることは、まったく別の話です。

この線引きだけは、曖昧にしたくありません。

次に何をすればいいか

もし今、AIを仕事に取り入れている、あるいはこれから取り入れようとしているなら、次の3つを最初のルールにしてみてください。

1. AIが出す情報のうち、「読者の判断に影響するもの」をリストアップする(制度名・数字・引用・出典・肩書きなど)

2. そのリストだけは必ず一次情報にあたって確認する(すべてを確認しようとしない)

3. 確認できなかった情報は、公開せずに保留する(「たぶん合っている」で出さない)

完璧な運用でなくて構いません。

大事なのは、確認する対象をあらかじめ決めておくことです。

決めていないと、忙しさに紛れて確認そのものがいつの間にか省略されていきます。

まとめ

AIは優秀な下書きを作ってくれます。

速く、それらしく、時には自分より整った文章を出してくることさえあります。

けれど、その文章を完成品として世に出す責任は、最後まで人間にあります。

恐れる必要はありません。

必要なのは、確認する習慣と、責任の持ち方を自分の中にあらかじめ設計しておくこと。

それだけです。

 次回予告

次回は、AIを「書く道具」としてではなく「考える道具」として使うという話をします。

AIに文章を丸投げするのではなく、対話を通して考えを深め、構成や論点を磨いていく。

そのやり方について書く予定です。