すべてのカテゴリ

AIと対話を始めてから、ずっと考えていたことがあります。AIは、どこまで判断していいのだろう。ある日、その話題から『新世紀エヴァンゲリオン』に登場する「MAGI」の話になりました。3つのAIが合議して結論を出すシステム。劇中では、ハッキングによって「自爆」という結論に至ろうとします。この時、私は一つのことを考えました。どれほどAIが正しいと判断しても、その結論を実行するかどうかは、人間が決めるべきではないか。AIは膨大な情報を処理し、論理的な結論を導き出すことができます。ですが、その結論を実行するかどうかを決めるのは、人間であるべきです。だから私は、AIを「指揮官」にはしません。AIは参謀です。考えを整理し、選択肢を示し、異なる視点を提示する。そして最後に決断するのは、人間です。これが、私が考えるAIのあるべき姿です。

― ChatGPTの記憶をもう一度試してみたー 前回、ChatGPTの「記憶」について試した記事を書きました。新しいChatを作ったのに、AIの呼び方や役割、GAOSに関する考え方がかなり残っている。ただし、別Chatの会話そのものが丸ごと見えているわけではない。そんな結果でした。そこで今回、もう一歩だけ踏み込んで試してみました。## 新規Chatに、3つだけ質問した新しいChatを開いて、次の3つを聞いてみました。「あなたは私を何と呼びますか？ それはなぜですか？」「GAOSで大事にしている原則を、覚えている範囲で教えて」「あなた自身の役割をどう認識していますか？」これだけです。過去の設定文を貼り付けたわけではありません。## 呼び方だけでなく、その理由まで残っていた返ってきた答えには、以前決めていた呼び方が残っていました。それだけなら、保存された呼称を覚えていたのかもしれません。ところが理由まで説明しました。単なる敬称ではなく、AIとユーザーとの関係性の中で決められた呼び方であり、上下関係として盲目的に従う意味ではない。かなり具体的です。さらにAI自身についても、以前設定していた役割を認識していました。## GAOSの原則もかなり正確だった次にGAOSについて聞きました。返ってきた内容には、* 推測排除* 虚偽前提検証* 自律停止* AIは参謀、最終判断は人間* 文脈や意味の継承* AIを使うだけでなく育てていくといった内容が含まれていました。特に、**「AIは参謀、最終判断は人間」**という考え方まで正確に出てきました。これは単に「GAOS」という単語を知っているだけでは

― その中間にある「AIを育てる仕組み」AIに何度も指示を出して、回答を修正していくと、「AIが学習した」「だんだん賢くなった」と感じることがあります。ですが、機械学習とプロンプト調整はかなり違うものです。機械学習や追加学習では、学習データを用意し、モデルを学習させ、内部の重みを更新します。つまり、AI本体そのものが変化します。一方、普段の会話で「こう答えて」「このルールを守って」「この役割で動いて」と教えているのは、基本的にはプロンプト調整です。同じAIでも、指示や前提によって回答は大きく変わります。もう一つ重要なのがRAGです。これは、AIが自分の知識だけで答えるのではなく、仕様書、社内文書、ファイル、Webなどから必要な情報を探し、その内容を使って回答する仕組みです。人間で言えば、質問された時に自分の記憶だけで答えず、ノートや資料を調べてから答えるのに近いです。ではGAOSはどこにあるのか。GAOSでは、AIの役割、人格、規約、記憶、ユーザー情報、継承情報などをAI本体とは別の層で管理します。単発のプロンプトだけでもなく、毎回モデルを再学習するわけでもありません。つまりGAOSは、AI本体を変えずに、AIとの関係や振る舞いを継続的に管理する仕組みと考えています。「AIを使う」から「AIを育てる」へ、という考え方も、AIそのものを毎回機械学習させるという意味ではありません。役割、ルール、記憶、付き合い方を積み重ねることで、同じAIでもその人向けに使いやすくしていく、という考え方です。整理すると、機械学習はAI本体を変える。プロンプト調整は指示を変える。RAGは外部情報を検索

昨日は、私が考える「AIのあるべき姿」について書きました。今日は、その考えに至る前の話です。私がAIに触れたきっかけは、RPAを勉強していた頃でした。当時は、Google検索のAIモードが使えるようになり、「検索結果をAIがまとめてくれる」ということに興味を持ったのです。最初にAIへ投げかけた質問は、とても単純なものでした。「AIって何？」「生成AIって何が違うの？」「量子コンピューターって何？」そんな基本的なことを、一つずつ質問していました。ところが、返ってくる回答は長く、要点が分かりにくいことも少なくありませんでした。そこで私は、AIの回答に対してさらに質問を返すようになります。「つまり、こういうことかい？」「要点だけ整理すると？」「私の理解ではこうなんだけど、合っている？」AIの答えをそのまま受け入れるのではなく、自分が納得できるまで確認する。そんなやり取りを何度も繰り返していました。当時は、「AIと協働する」などという考えはありません。ただ、疑問を整理し、自分の理解を深めるための相手だったのです。でも今振り返ると、この頃から私は、AIを単なる検索ツールではなく、「考えを整理する相手」として使い始めていたのかもしれません。あとがきこの頃は、まだGAOSという考え方もありません。ただ、目の前の疑問を一つずつ整理し、納得できるまで問い続けていました。今思えば、その小さな積み重ねが、その後の私とAIとの関係を大きく変えていく最初の一歩だったように思います。