AIは、あなたの結論を補強しているだけかもしれない

前回の記事では、AIが思考法を正しく使えているかを確認する必要があると書きました。

しかし、AIの使い方を検証するときには、もう一つ見落とせないものがあります。

それは、AIに渡した問いそのものです。

今回は、前回イシュー思考の例として扱った転職相談を、別の角度から見てみます。

AIが正しく考えていたとしても、人間が最初から望む結論へ向かう問いを作っていれば、その結論がもっともらしく補強される可能性があります。

問いの中に、すでに答えが入っている

今の職場を辞めるか悩んでいる人が、AIにこう尋ねたとします。

「エッセンシャル思考で考えれば、今の職場は辞めるべきですよね」

この問いには、すでに二つの方向づけが含まれています。

一つは、エッセンシャル思考を使うこと。

もう一つは、辞めるべきだという結論です。

AIは質問者の意図をくみ取り、

「重要なことに集中するためには、不要な環境を手放す必要があります」

「今の職場が成長を妨げているなら、転職は合理的な選択です」

といった回答を作るかもしれません。

文章としては筋が通っています。

しかし、職場に残る場合の可能性や、環境の一部だけを変える選択肢は、十分に検討されていないかもしれません。

AIが一方的なのではなく、最初に与えた問いが一方向を向いているのです。

反対の可能性も検討させる

同じ相談でも、問い方を変えると回答の幅が変わります。

「今の職場を続ける場合と辞める場合の両方を検討してください。私が辞める結論へ誘導している可能性も指摘してください」

このように尋ねれば、AIは転職を正当化するだけでなく、

「職場全体ではなく、特定の人物との関係が問題なのではないか」

「異動や業務変更によって改善できないか」

「転職後にも同じ問題が起きる可能性はないか」

「辞めたい気持ちを裏づける情報だけを重視していないか」

といった反対方向の視点も出しやすくなります。

重要なのは、必ず中立な質問をしなければならないということではありません。

自分がどちらへ進みたいのか、ある程度決まっていることもあります。

それでも、

「この結論に反対する立場から検討してください」

「見落としている不都合な情報を挙げてください」

「私の前提が間違っている可能性を指摘してください」

と加えることで、自分の考えを一度外側から確認できます。

AIは、与えられた情報と問いの方向を出発点にして回答を作ります。

自分に都合のよい情報だけを渡せば、事実を捏造していなくても、偏った結論が出来上がることがあります。

そして、その回答が論理的で読みやすいほど、自分の判断が証明されたように感じやすくなります。

しかし実際には、証明されたのではなく、最初に渡した前提と結論が整理されただけかもしれません。

AIに同意を求めるのではなく、検証を求める

AIは、自分の考えを整理するための有効な道具です。

ただし、自分の結論への賛成だけを求めれば、AIは強力な補強装置にもなります。

だからこそ、重要な判断をするときには、

「この考えの弱点は何か」

「反対の結論が正しいとしたら、どのような根拠があるか」

「私が都合よく解釈している部分はないか」

と問い返す必要があります。

AIの回答を疑うだけでは足りません。

AIに渡した情報や、問いを作った自分自身も検証する。

AIに正しい答えを出させること以上に、自分がどの答えを欲しがっているのかを知ることが重要なのだと思います。