Kurage
Kurage WikiKurageナレッジベース
Kurage.AIに聞く →
ホームWiki › 概念 › 根拠追跡可能性
概念

根拠追跡可能性

AIの判断根拠を証拠ID・出典・データ時点で追跡可能にする設計原則。

根拠追跡可能性(Evidence Traceability)とは、AIが出した判断・提案・レポートについて、「何の入力データに基づいて、どの時点で、どの出典から得た情報を使って」導かれたのかを、機械可読な形で遡れるようにする設計原則である。単に「AIがそれらしいことを言った」で終わらせず、人や他のエージェントが判断を検証・反証できることを重視する。

Kurageシリーズにおける実装

kurage-lps に収録された各プロダクトでは、この原則が具体的な機構として組み込まれている。

証拠IDの必須化(ksbrain

日本株・米国株インテリジェンスAPIのksbrainは、判断が参照した入力を evidence_id として返すことを必須化している。存在しないIDは除外され、資料がなければ「証拠不足」と明示する。証拠は正規化・時刻付与・ハッシュ化されて保存されるため、後から監査可能である。

捏造しない・「足りない」と返す(kcbrain / kfxbrain

暗号資産・FXの判断APIであるkcbrainkfxbrainは、渡されたevidenceに基づくLLMの見解だけを返し、データが足りない場合は捏造せず「足りない」と正直に返す設計を明示している。これは「事実を作らない」という姿勢を出力構造に組み込んだ例である。

vendor化OSSの出典明記

oss-vendoringとして、コミット固定・許諾的ライセンスのみ・全レスポンスに出典を明記する方式を取る。ライセンス無しのOSSはvendorしないと明言されており、どのOSSのどの版の知能を使っているかが追跡できる。

取引ボットにおける検証と公開(kfreqai / kfxai

レポート生成の「データなし」明示(kfinanalyst / ktajp

「取得できたデータだけで書き、無い項目は『データなし』と明示」することで、ハルシネーションを構造で抑える。ktajpは複数AIの討論結果を根拠とセットで保存し、あとから追跡できる。

なぜ重要なのか

関連ページ

「根拠追跡可能性」についてもっと知りたいですか?
Kurage.AI に質問する