AIの操作を記録し、振り返れるように。SUMI Guard開発の最新進捗

AIに開発を任せる場面が増えるほど、「どんな操作をしようとしたのか」「その記録は残っているのか」が気になるようになりました。

そこで開発しているのが、Windows上で動くローカル監査ツールの試作「SUMI Guard」です。今回は、2026年10月30日時点で公開しているコードと測定記録をもとに、最近の進捗を紹介します。

■ SUMI Guardで記録していること

Claude CodeやCodexから届く、ツール実行前のイベントを受け取り、ルールによる評価結果やOS側のプロセス観測と分けて記録します。

ここで大事にしているのは、「AIが実行しようとした」という記録と、「実際に動いた」という証拠を混同しないことです。照合できた場合も、推定による対応なのかを区別しています。

通常のMONITORフックは操作を止めず、コマンド本文も既定では保存しません。ハッシュと必要なメタデータを残し、本文を明示的に保存する場合にはWindowsの暗号化機能とアクセス権を使います。

■ 今回の進捗：記録できない操作を止める仕組み

10月28日付のv0.2.0-previewでは、任意で有効にする強制モード「ENFORCE_RECORDING」を追加しました。対象として設定した経路で記録の成功を確認できない場合に、実行を拒否する仕組みです。

単に止める機能を作るだけでは、普段の作業を妨げてしまいます。そのため、判定と応答、実ホストが拒否に従うか、暗号化とアクセス権、緊急停止などの運用面を、4つの段階に分けて確認してきました。

暗号化とアクセス権の実機確認は31項目を通過。続いて、Claude Code 2.1.310のBashという1経路で、正常に記録して実行する場合、保存先の権限異常で止める場合、緊急停止で強制を解除する場合を確認しました。

ただし、強制フックは普段の環境へ自動登録されません。通常のMONITORフックも、引き続き記録だけを行います。また、入力を読めない場合やフック内部の障害時には、通知を残して実行を継続する設計です。あらゆる障害で必ず止まる仕組みではありません。

■ 動きを説明する6場面のデモも追加

設定なし、記録成功、保存失敗による拒否、対象外のツール、緊急停止、緊急停止の解除。この6場面を確認できるデモを追加し、約42秒のGIFでも見られるようにしました。

デモ自体はClaudeを呼び出さず、使い捨ての保存先で実際の強制フックへ入力を渡します。仕組みを説明するデモと、実際のClaude Codeが拒否に従うかを確認した実機測定は、別のものとして扱っています。

■ 現在の範囲と、これから

SUMI Guardは、まだ開発中の監査用プロトタイプです。ウイルス対策ソフトではなく、感染判定やすべての操作の捕捉を保証するものでもありません。Codexでの強制モードは未検証で、OS観測でも短時間で終了するプロセスを取り逃す可能性があります。

便利な機能を増やす一方で、「確認できたこと」と「まだ分からないこと」を記録に残す。その積み重ねで、AIと一緒に開発する環境を少しずつ整えています。

業務システムでも、処理が成功したときだけでなく、記録や保存に失敗したときの扱いが大切です。今回の開発で得た知見を、日々のWebシステム開発や業務自動化にも活かしていきます。

AI活用や業務自動化、Webシステム開発のご相談は、ココナラのメッセージからお気軽にお声がけください。