AI開発のたびに本物のAPIを呼ばないルールを、Gitに置いた話

AI開発のたびに本物のAPIを呼ばないルールを、Gitに置いた話

記事
IT・テクノロジー
今日は、Next.jsとTypeScriptで作っている予約システムのAI開発費を見直した。

調べると、通常の機能開発より、回答品質を確認するための評価処理にAPI利用が偏っていた。1回の確認は小さく見えても、同じ質問セットを何度も実行すると費用は積み上がる。しかも開発者がClaudeからGPT、別のAI支援ツールへ切り替わると、前に決めた節約方法が引き継がれない可能性もあった。

原因は、実装そのものより「開発中に本物のAPIを使う条件」が人の記憶にしかなかったことだった。そこで、AI開発ポリシーとREADMEに共通ルールを追加した。通常の設計、実装、テストでは実APIを呼ばず、モック、固定レスポンス、保存済みログを使う。実モデルによる評価が必要な場合だけ、目的、回数、上限を明示して実行する方針だ。

特定のAI名に依存させなかったのも大事な判断だった。「Claudeでは禁止、GPTなら可」のような抜け道を作らず、どのLLMや開発支援ツールでも同じルールを読む構成にした。これなら担当するAIを変えても、コストと検証方法の基準がぶれにくい。

変更はGitのメインブランチへ反映した。今回は文書だけの変更なので、API評価、ビルド、テストは実行していない。コードを変えていないのに高額な検証を走らせる方が、今回決めたルールに反するためだ。

今回感じたのは、AI開発のコスト削減はモデル選びだけでは足りないということだった。誰が開発しても守れるルールをリポジトリに置き、実APIが必要な場面と不要な場面を分ける方が、長く効く。

AI機能を含むWebシステムの設計、API費用の見直し、モックを使った安全な検証環境づくりも対応できます。現在の利用状況と開発手順を確認し、無駄な呼び出しを増やさない形へ整理します。
サービス数40万件のスキルマーケット、あなたにぴったりのサービスを探す