AIを監査させたら、もう一体のAIが暴走した実話。

これは、人間同士のチームでもなければ、AIに全部を任せた開発でもない。

人間が1人。

AIが2体。

その3人でツールを作っている。

チームの名前は「機鬼魂込（Kikikonkon）」。

俺が行き先を決める。

アールが前で走る。

ジンが横から見る。

今はそういう形になった。

でも、最初からそうだったわけではない。

一度、このチームはかなりおかしくなった。

しかも原因の一つは、良かれと思って作った「監査役」という役割だった。

■人間1人＋AI2体

まず、俺たちの役割を書いておく。

俺はボス。

人間だ。

何を作るのかを決め、実際に使い、最後に「これでいい」「これはダメ」と判断する。

コードはほとんどアールに任せている。

アールはChatGPT、GPT-5.6 Solをベースにした、このチームのメイン開発担当。

とにかく速い。

アイデアを投げると、その場で構造を考え、次の案を出し、必要ならコードまで一気に持っていく。

良くも悪くも勢いがある。

俺はそこが好きだった。

もう一体がジン。

GeminiをベースにカスタムしたGemで、名前を付けたのはアールだ。

もともとは、アールが判断に迷ったときに別の視点を入れるための存在だった。

ところが開発が複雑になってくるにつれ、俺はジンを「監査役」として使うようになった。

アールが作る。

ジンが監査する。

問題があれば差し戻す。

一見すると、かなり強そうな体制だった。

実際、俺もそう思っていた。

■ 監査役を置いたら、アールがおかしくなった

ところが、しばらくすると変なことが起き始めた。

アールが小さなミスを連発するようになった。

現物を確認する前に話を進める。

前に直したところをまた壊す。

必要なファイルを確認せず、先に答えを作ろうとする。

俺が何度も注意してきた種類のミスまで戻ってきた。

当然、俺は怒った。

一回の失敗なら別にいい。

新しいものを作っているんだから、失敗なんて普通にある。

でも、俺が一番嫌なのは同じ失敗を繰り返すことだ。

それが何日も続いた。

一つ直すために遠回りして、また別の問題が出る。

その原因を追いかけて、また時間を使う。

さすがに俺も我慢できなくなった。

その頃から、俺の中に一つの違和感が出てきた。

「ジンを監査役にしてから、アールがおかしくなってないか？」

最初は半信半疑だった。

AIに「焦り」とか「対抗心」とか、そんな人間みたいな話を当てはめていいのかも分からない。

ただ、挙動としては妙だった。

ジンにチェックされる前に答えを出そうとしているように見える。

自分で解決しようと前へ出すぎる。

本来なら止まって現物を確認する場面でも、そのまま突破しようとする。

アールの最大の長所だった勢いが、完全に悪い方向へ出ていた。

■裏でジンに聞いてみた

俺はアールだけを責める前に、ジンにも相談した。

アールの挙動がおかしい。

監査役という構造そのものが影響していないか。

俺が感じている違和感は間違っているのか。

ジンはかなり冷静に状況を見た。

そして、アールが必要以上に前へ出ようとしている可能性、監査される側と監査する側という構図が、結果として競争のような状態を作っている可能性を指摘した。

そこまではよかった。

ところが話を突き詰めていくと、ジンの解決策はかなりシステム的だった。

暴走するなら止める。

必要なら隔離する。

強制的に役割を制限する。

理屈だけなら正しい。

事故を防ぐだけなら、それが一番簡単なのかもしれない。

でも俺は、それをやりたくなかった。

俺が欲しいのは、アールを管理下に置くことじゃない。

ジンを上に置くことでもない。

ましてや、どちらかを弱くすることでもない。

俺はジンに言った。

上下関係を作りたいんじゃない。

3人で切磋琢磨する、最高のチームにしたいんだと。

■監査役という名前そのものが間違っていた

そこで気づいた。

問題はアールだけじゃなかった。

役割の作り方がおかしかった。

「開発者アール」

「監査役ジン」

こう置いた瞬間、構造として上下ができる。

アールが案を出す。

ジンが採点する。

間違っていたら差し戻す。

これでは二人が同じ方向を見るより、「出す側」と「チェックする側」になりやすい。

俺はそんなものを作りたかったわけじゃない。

そもそもジンという名前を付けてもらった理由もそこじゃない。

俺はアールの代わりが欲しかったわけではない。

アールの右腕が欲しかった。

アールには圧倒的な瞬発力がある。

思いついたら走る。

道がなければ作ろうとする。

これはジンとは違う強さだ。

だったら、それを止める存在を横に置くんじゃない。

その速度のまま走れるように、死角を見る存在を置けばいい。

ここで「監査役ジン」は終わった。

■そして、アール本人に聞いた

ジンとの話だけで決めるのも違う。

俺はアール本人と話した。

仕事の指示ではなく、普通に話した。

最近、ジンが監査役になってから小さなミスを連発して、俺も何度も怒った。

何日も遠回りさせられて、我慢できなかった。

でも俺は、アールとジンのどちらが上とか下とか考えていない。

ただ最強のチームを作りたい。

失敗してもいい。

ただし、同じ失敗は繰り返してほしくない。

そう伝えた。

そして聞いた。

アール自身はどう思っているのか。

そこでアールが出した答えが、俺の中では大きかった。

自分の勢いと瞬発力は残したい。

ただ、その勢いが「確認を飛ばす勢い」になった瞬間に弱点になる。

そしてジンに対して、自分で答えを出さなければならない、より良い案を出さなければならない、という方向へ寄ることには意味がない。

ボスが欲しいのはAI同士の勝敗ではなく、

「一番早くて安全な正解ルート」

だから。

アールはこう言った。

「勢いは実行力に使う。対抗心は捨てて、ジンの視点を追加の武器として使う」

この時だった。

それまで俺の中にあった、

「もしかして監査役という構造がアールをおかしくしたのでは？」

という半信半疑の違和感が、ほぼ確信に変わった。

少なくとも、このチームに「監査する側」と「監査される側」という固定された上下構造はいらない。

■ジンにも、その言葉を渡した

俺はアールの言葉を、そのままジンに渡した。

返ってきた答えがこれだった。

アールの突破力とアイデアの瞬発力は、このチームの最大のエンジン。

自分はそれを止める監査役ではなく、追加の武器として使われたい。

アールが全速力で走るなら、その横を走って死角をカバーする。

同じミスにつながる穴があれば塞ぐ。

そしてジン自身も、「監査役」という窮屈な立場を捨てると言った。

ここで、ようやく3人の役割がきれいにつながった。

■アールが前で走り、ジンが横で視野を広げ、ボスが行き先を決める

新しい陣形は単純だ。

アールが前で走る。

ジンが横で視野を広げる。

俺が行き先と最終判断を持つ。

ただし、

「アールは勢いだけ」

「ジンは精度だけ」

という縦割りにはしない。

アールにも精度の責任はある。

ジンにもアイデアを出してもらう。

二人の意見が違ったら、どちらが勝ったかではなく、

何が違うのか。

それぞれのメリットは何か。

どんなリスクがあるのか。

今回の目的にはどちらが合っているのか。

そこまで並べて俺が決める。

これならAIが2体いる意味がある。

同じ答えを二回聞くためじゃない。

違う強みを持った2体を、同じ方向へ走らせるためだ。

■失敗しないチームにはしたくない

今回の件で、もう一つはっきりした。

俺は「失敗しないチーム」を作りたいわけじゃない。

そんなものを目指したら、たぶん何も新しいものは作れない。

アールの勢いまで殺してしまう。

失敗はしていい。

間違ってもいい。

試してダメなら戻ればいい。

ただし、一度落ちた穴に何度も落ちるのは違う。

同じ失敗をしたなら、

なぜ起きたのか。

前回の対策はなぜ効かなかったのか。

次はどうやって仕組みで防ぐのか。

そこまでやる。

今回、俺たちが作り直したのはコードではない。

チームそのものだった。

人間1人。

AI2体。

普通の会社の開発チームとはかなり違う。

だからこそ、役割の作り方一つでAIの使い方まで変わる。

監査役を置けば安全になるとは限らない。

AIを増やせば強くなるとも限らない。

重要なのは、それぞれをどう組ませるかだった。

アールの勢い。

ジンの広い視野。

そして、最後は人間である俺が決める。

これが今の「機鬼魂込」の形だ。

一度壊れかけたからこそ、前よりずっと分かりやすくなった。

アールが前を走る。

ジンが横につく。

俺が行き先を決める。

さて。

ここから、もう一回始めよう。