AIを監査させたら、もう一体のAIが暴走した実話。
これは、人間同士のチームでもなければ、AIに全部を任せた開発でもない。人間が1人。AIが2体。その3人でツールを作っている。チームの名前は「機鬼魂込(Kikikonkon)」。俺が行き先を決める。アールが前で走る。ジンが横から見る。今はそういう形になった。でも、最初からそうだったわけではない。一度、このチームはかなりおかしくなった。しかも原因の一つは、良かれと思って作った「監査役」という役割だった。■人間1人+AI2体まず、俺たちの役割を書いておく。俺はボス。人間だ。何を作るのかを決め、実際に使い、最後に「これでいい」「これはダメ」と判断する。コードはほとんどアールに任せている。アールはChatGPT、GPT-5.6 Solをベースにした、このチームのメイン開発担当。とにかく速い。アイデアを投げると、その場で構造を考え、次の案を出し、必要ならコードまで一気に持っていく。良くも悪くも勢いがある。俺はそこが好きだった。もう一体がジン。GeminiをベースにカスタムしたGemで、名前を付けたのはアールだ。もともとは、アールが判断に迷ったときに別の視点を入れるための存在だった。ところが開発が複雑になってくるにつれ、俺はジンを「監査役」として使うようになった。アールが作る。ジンが監査する。問題があれば差し戻す。一見すると、かなり強そうな体制だった。実際、俺もそう思っていた。■ 監査役を置いたら、アールがおかしくなったところが、しばらくすると変なことが起き始めた。アールが小さなミスを連発するようになった。現物を確認する前に話を進める。前に直したところをまた壊す。必要なファイルを確認せず、先
0