「動くデモ」と「現場で使われる仕組み」の間には、思ったより深い溝がある
「とりあえずDifyで作る」が増えている
ここ最近、RAG（検索拡張生成）という言葉を本当によく聞くようになりました。
社内文書をAIに学習させて、「あの資料どこ？」と聞けば答えてくれる仕組み。Dify、Flowise、LangFlow……ノーコード／ローコードでRAGを構築できるツールも一気に増えました。
私もこれらのツールの導入を検討したことがあります。
正直、「とりあえず動かす」ところまでは、本当によくできています。管理画面でフローを組んで、ドキュメントをアップロードして、APIキーを設定する。それだけで、それっぽいAIチャットボットが動きます。
PoC（概念実証）を素早く作るには、本当に強力な選択肢だと思います。
問題はその後です。
ノーコードRAGで本番運用しようとすると、何が起きるか
検討を進めていく中で、いくつか「これは厳しいな」と感じたポイントがありました。
1. 「ノーコード」と言いつつ、実は専門知識が要る
設定画面が分かりやすいのは入り口だけです。
ちゃんと業務で使えるレベルに引き上げようとすると、結局：
・サーバーを自社内に置きたい → ITインフラの知識が必要
・見た目を変えたい・自社らしくしたい → プログラミング知識が必要
・独自の処理を追加したい → やっぱりプログラミング知識が必要
・回答の精度を上げたい → AIやRAGそのものの専門知識が必要
つまり、「ノーコードで簡単」と聞いて始めたのに、結局あちこちで詰まることになります。
2. うまく動かない時、原因が分かりにくい
普通のプログラミングなら、「ここでこのエラーが出てる」と特定できます。
ノーコードツールは画面上で組み立てる仕組みなので、「なんとなく思った答えが返ってこない」とき、どこを直せばいいか掴みづらい。社内で運用する以上、誰かが面倒を見続けないといけませんが、これが結構しんどい。
3. 後から別の仕組みに乗り換えられない
Difyで作ったものを、後で「やっぱり別のツールにしたい」「自社で作り直したい」と思っても、ほぼゼロから作り直しになります。一度始めたら、そのツールと一緒に走り続けることになる。
4. クラウド版だと、データを社外に預けることになる
医療・行政・金融など、データを社外に出せない業界では、自社内でホストするしかありません。でも自社内ホストにはサーバー知識が必要で、トラブル時の対応も自分たちでやることに。
「動く」と「業務で使われる」は別物
技術者から見れば、ノーコードRAGで作ったチャットボットは「動くアプリ」です。
でも、現場の人から見ると、こう映ることが多い：
・どんな質問の仕方をすればいいか分からない
・そっけない画面で、聞く気にならない
・「それっぽいけど微妙にズレた」回答が返ってくる
・自社の言葉づかい・業務用語を理解してくれない
最初の1週間は「便利！」と話題になっても、3か月後には誰も使わなくなる。これはノーコードRAG固有の問題ではなく、AIツールを業務に定着させる難しさそのものなんですが、ノーコードで作るとこの定着の壁を越えるためのカスタマイズが、想像以上に大変になります。
フルスクラッチで作ると、こんなことができる
私が作った社内情報AI「検索ん（けんさっくま）」のスクリーンショットです。
ノーコードRAGとの一番の違いは、「現場の人が、自然に使い始められる」工夫を、自由に組み込めることです。
たとえば、画面に並んでいる4つのボタン。
規程を調べる
議事録を探す
マニュアルを確認
なんでも検索
これは単なるショートカットじゃなくて、「どう質問していいか分からない」人のためのガイドです。ボタンを押すと、質問文の雛形が自動で入る。そのまま送ってもいいし、書き換えて送りやすい。
「AIに何を聞けばいいか分からない」って、実は現場で一番大きな壁です。これを越えてもらうために、ボタン誘導という形でAIリテラシーを底上げする設計にしました。
そして、画面の左にいる「けんさっくま」。これは正直、遊び心です。
でも、無機質なチャット画面より、ちょっとした親しみがある方が、「聞いてみよう」と思える。現場経験から、業務ツールに「無機質さ」は意外と大きな心理的ハードルだと思っているので、こういう細部にこだわってみました。大事なことなのでもう一度言いますが、遊び心です。
フルスクラッチで作ると、こういう「業務の使われ方」に合わせた細部の設計が、自由にできる。これが一番の価値だと思っていますし、面白いところでもあるなと思います。
結局、どっちを選べばいいのか
私の今の整理はこうです。
【こんな時はノーコードRAG】
・PoCを素早く作りたい
・AIで何ができるか試したい
・とりあえず動かして判断したい
・専任の管理者を置ける
【こんな時はフルスクラッチ】
・本番で長く使う仕組みを作りたい
・業務の中に深く組み込みたい
・現場で本当に使われる道具にしたい
・「使う人だけ」で完結させたい
ノーコードは「入り口」として優秀。
でも、3年・5年と使い続ける道具を作るなら、仕事で扱う情報「業務用の製品」だからこそ、フルスクラッチを選ぶ価値がある。これが私の今の答えです。
おわりに
フルスクラッチで作るRAGのご相談はこちら↓
社内資料をAI検索できるRAGシステムを構築します 「あの資料どこ？」を、AIに聞ける環境に変えます
