発売3日のAIが消えた。

発売3日のAIが消えた。賢さでは、信頼は買えない

世に出てたった3日のAIが、世界中から、ふっと使えなくなりました。

止めたのは、もっと賢い技術ではありません。米政府の、一通の通達でした。

しかも消える引き金になったのは、そのAIが「よく出来る」という、まさにその一点でした。

---

まず、何が起きたのかを、順に。

6月9日(火)、AnthropicがClaude「Fable 5」を公開しました。同社がこれまで一般向けに出した中で、いちばん高性能なモデルです。

もともと「Mythos」は、表に出していなかった最上位モデルでした。その力を、一般の人が使えるよう安全装置をかけて差し出したのが、Fable 5。いわばMythosの、公開できる顔です。

性能は、数字でも際立っています。ソフトウェア開発、知識労働、画像、科学研究。ほぼすべてのベンチマークで最高水準。タスクが長く複雑になるほど、他のモデルとの差が開くと説明されています。

安全装置の効き方も具体的です。ある種の話題への問いには、Fable 5ではなく、一段おとなしい「Claude Opus 4.8」が代わりに答える。この切り替えは控えめに設定され、平均すると会話の5%未満でしか働かない、とされています。

兄貴分の「Mythos 5」は、中身はFable 5と同じ。ただ一部の安全装置を外したもので、世界で最も強いサイバーセキュリティ能力を持つとされます。こちらはまず、米政府との協働「Project Glasswing」を通じ、信頼できる相手に限って配る計画でした。

料金は、API利用で入力100万トークンあたり10ドル、出力は50ドル。Claudeの有料会員は、6月22日までFable 5を試せる。そういう触れ込みの、華々しい船出でした。

公開から、わずか3日後。その船が、止まります。

---

6月12日(金)の夕方5時21分、米東部時間。Anthropicに、政府の通達が届きました。

輸出管理にもとづく命令で、国家安全保障を理由に、Fable 5とMythos 5へのアクセスを、すべての外国籍の人に対して止めよ、という内容です。

この「外国籍の人」は、アメリカの国内外を問いません。Anthropicで働く外国籍の社員さえ、対象に入りました。

一部だけ遮断する、という線が引けない。だから会社は、全顧客に向けて、両モデルを急に止めるしかなかったのです。

火曜に出て、金曜の夕方に消える。一週間も保ちませんでした。6月22日まで試せるはずだった公開も、その窓ごと閉じたことになります。

商用のAIを政府が強制的に止めさせたのは、これが初めてだと報じられています。最先端のモデルにも、世界の外から落とせる電源がある。それが、はっきり見えた一件でした。

引き金とされた jailbreak の中身も、かなり具体的に出ています。

Anthropicによれば、通達には懸念の詳細が書かれていなかったそうです。

同社の理解では、政府はFable 5の安全装置をすり抜ける手口を把握したと見ている。実際にその実演を確認したところ、見つかったのは「以前から知られていた、ごく軽微な脆弱性が少数」だった、と説明しています。

報じられたその手口は、拍子抜けするほど地味でした。モデルにあるコードを読ませ、その不具合を直させる。日ごろエンジニアが「優秀だ」と頼る、まさにその働きです。同じ力が、見る人を変えただけで、危険のラベルに変わったわけです。

会社はこれを「誤解」と呼び、復旧を急いでいます。一段性能を抑えた「Claude Opus 4.8」など、ほかのモデルは止まっていません。

整理すると、こうです。世界最高クラスの賢さを持つモデルが、発売3日で、その能力の高さを理由に、政府の一声で消えた。

---

ここからは、短く。

この一件は、賢さと信頼が別物だと、はっきり見せてくれました。

性能は世界最高のまま、モデルは信頼の側で止められた。何点取れるかと、世に置いて大丈夫かは、違う物差しで測られていたのです。

賢さは、お金と計算資源で買えます。信頼は、買えません。積むのに時間がかかり、賢さの隣に勝手についてはこない。

そして「これは出してよいか」を最後に決めたのは、ベンチマークではなく、人でした。作り手と政府で答えが割れたのも、そこが人の判断だからです。

---

私たちの仕事も、たぶん同じです。

賢く、速く下調べするのは、AIでいい。でも、「これを出します」「いまは止めます」と決める一点だけは、あなたの手に残ります。

そこは、誰にも速くできないし、誰にも買えません。

---

ここまで読んでくださって、ありがとうございます。

もし何かひとつでも残るものがあれば、スキをいただけたらうれしいです。

凪WORKSのこれからも、フォローで見届けてもらえたら、もっとうれしいです。