AI相談窓口を安く、かつ正確に作りたいと思いませんか？実は、LLMの『使い分け』を知るだけで劇的に変わります。 全部同じモデルで動かすと、コストが高くなったり、URLを捏造したりする問題が起きます。ポイントは『コンパイル』と『回答』の分離です。 OpenKBというツールを使うと、ドキュメントをWiki化する工程と、ユーザーの質問に答える工程を切り分けられます。 まず『コンパイル』。 資料からWikiを作る重い処理には、強いDeepSee…
シーン 1
AI相談窓口を安く、かつ正確に作りたいと思いませんか？実は、LLMの『使い分け』を知るだけで劇的に変わります。
Kurage VTuber pointing at a futuristic AI chat interface, 9:16, vertical 9:16, clean virtual studio, light gradient background, presenter safe zone, 5600K key light
シーン 2
全部同じモデルで動かすと、コストが高くなったり、URLを捏造したりする問題が起きます。ポイントは『コンパイル』と『回答』の分離です。
Split screen showing 'High Cost' and 'Hallucination' icons, 9:16, vertical 9:16, floating UI panels, soft rim light, friendly AI explainer atmosphere
シーン 3
OpenKBというツールを使うと、ドキュメントをWiki化する工程と、ユーザーの質問に答える工程を切り分けられます。
Diagram showing Document -> Wiki Compilation -> Chatbot, 9:16, vertical 9:16, white tech studio, subtle data particles, caption-safe lower area
シーン 4
まず『コンパイル』。 資料からWikiを作る重い処理には、強いDeepSeekを採用します。
DeepSeek logo processing complex documents into a structured wiki, 9:16, vertical 9:16, professional educational set, calm motion graphics, bright optimistic lighting
シーン 5
ここで価格やURLなどの「正確な事実」を逃さず落とすのがコツです。
DeepSeek logo processing complex documents into a structured wiki, 9:16, vertical 9:16, clean virtual studio, light gradient background, presenter safe zone, 5600K key light
シーン 6
実測では、DeepSeekなら全コンパイルが約4分で完了。 gemma4より2.7倍速いです。
Speedometer showing 2.7x faster, price tag $0.12, 9:16, vertical 9:16, floating UI panels, soft rim light, friendly AI explainer atmosphere
シーン 7
コストもプロンプトキャッシュを効かせれば、わずか$0.12程度！
Speedometer showing 2.7x faster, price tag $0.12, 9:16, vertical 9:16, white tech studio, subtle data particles, caption-safe lower area
シーン 8
次に『回答』。出来上がったWikiを読み取るだけの軽い処理は、ローカルのgemma4 12bで無料運用します。これでコストを最小化できるんです。
Local PC running gemma4 model for free, chat bubbles appearing, 9:16, vertical 9:16, professional educational set, calm motion graphics, bright optimistic lighting
シーン 9
gemma4単体だとURLを捏造しがちですが、DeepSeekでコンパイルした正確なWikiを読ませることで、正しい誘導先を回答できるようになります。
Comparison of fake URL vs correct URL from Wiki, 9:16, vertical 9:16, clean virtual studio, light gradient background, presenter safe zone, 5600K key light
シーン 10
技術的なコツはLiteLLMの活用です。Ollamaでエラーが出る時はdrop_params=Trueにするのが、実務上の重要なポイントですね。
Code snippet showing litellm.drop_params=True, 9:16, vertical 9:16, floating UI panels, soft rim light, friendly AI explainer atmosphere
シーン 11
さらにコンテンツハッシュを使って「変わった分だけ」を再コンパイルすれば、日々の更新もほぼ無料で自動化できます。
Automated update cycle with hash icons, 9:16, vertical 9:16, white tech studio, subtle data particles, caption-safe lower area
シーン 12
これで『正確な商品情報』を返す相談窓口と、AIが引用しやすい構造化されたWikiの両方が手に入ります。
Kurage showing a finished Wiki and Chat interface, 9:16, vertical 9:16, professional educational set, calm motion graphics, bright optimistic lighting
シーン 13
結論。重い要約はクラウドの強いモデル、軽い読み取りはローカルの無料モデル。この使い分けが最強のバランスです。
Balance scale with Cloud/DeepSeek and Local/gemma4, 9:16, vertical 9:16, clean virtual studio, light gradient background, presenter safe zone, 5600K key light
シーン 14
もっと詳しい実践知を知りたい人は、VWorkをチェックしてみてね！
Kurage waving goodbye with VWork logo, 9:16, vertical 9:16, floating UI panels, soft rim light, friendly AI explainer atmosphere
