声で指示できるAIを、起動直後は必ず停止状態にした話

今日は、SUMIというAI開発支援ツールに、声で指示し、結果を音声でも受け取れる入口を作っていた。

目指しているのは、作業中にキーボードへ戻らなくても「状態を教えて」「この確認を進めて」と伝えられる仕組みだ。ただ、音声入力は便利な反面、聞き間違いや周囲の会話で意図しない処理が始まる危険がある。そこで最初に作ったのは音声認識の派手な機能ではなく、「勝手に動かない状態」だった。

アプリは起動直後に必ずPAUSEDになる。ローカルで一度だけ認証し、短時間のセッションを作っても、受付再開を明示するまでは処理を受け付けない。「状態を教えて」のような確認はできるが、作業の実行は別の操作として分けた。停止中に届いた古い要求も、再開後にまとめて実行しないよう世代番号で無効化した。

履歴はSQLiteへ保存したが、内容をそのまま残さず、AES-256-GCMで暗号化し、鍵はWindowsのDPAPIで保護した。再起動後に完了履歴が表示されること、認証状態が引き継がれても受付は停止したままであることをブラウザで確認した。

今回あらためて感じたのは、AIエージェントでは「何ができるか」より先に、「いつ動かないか」を決める必要があることだ。音声操作は次の段階で、まず停止、認証、履歴、古い要求の無効化までを土台にした。

AIエージェント、業務自動化、管理画面などのご相談では、便利な操作だけでなく、誤実行を防ぐ停止条件や確認手順まで含めて設計します。小さな試作から安全に検証したい場合も対応できます。