AIの判定を、あとから確かめられる形で運用する。
出す前に止める判定、なぜ止まったかの説明、安全に動ける範囲の地図、そして確かめられる形での受け渡し。役割を分けた4つの層で、AIの運用に説明責任の骨組みを通します。総合スコアは出しません。分かれたままであることが、説明できることの土台だからです。
出す前に判定する
AI Output Review Gate。根拠・承認・権限を見て、通すか止めるかを理由つきで返す。
なぜ止まったかを説明
ITS-Diff。理由コードの地図と診断面を読み出す。判定は上書きしない。
動ける範囲を地図に
IDF/OZ。GO / HOLD / SHRINK / FREEZE / RESTORE の5状態で運用域を返す。
確かめられる形で受け渡す
Control API Pack。元データに触れず、割印のような検証記録を添える。
判定の裏側 ― 構造と意味を、別々に見る
止める判定の中には、性質の異なる二つの確認があります。C³はこれを一つに混ぜず、並列の二層として扱います。
TG ― 構造・経路を見る
処理の経路や権限の形そのものを確認します。意味は読みません。
権限の集中 / 監査経路の欠落 / 差し戻し経路の孤立 / 確認した経路と実行経路のズレ
EAG ― 意味・証拠を見る
主張が証拠で支えられているか、承認・権限・用途が揃っているかを確認します。
証拠の有無 / 承認 / 権限 / 想定用途との一致
EAGに問題がなくても、TGだけが構造上の理由で止めることがあります。逆もあります。
二層の結果は別々の理由コードとして保持します。総合スコア・ランキング・自動の優先順位づけは行いません。分かれたままであることが、あとから説明できることの土台です。
多くの設計は「止める」までです。C³は、止めた後 ― 直る・資産になる・渡される・確かめられる ― までを設計しています。
現状:TGの構造観測は、判定に対する参考情報として付加する設計段階です。判定を上書きすることはなく、TG単独の公開APIはまだありません。
価格より、構造差
監査のコストは「1回の判定料」ではなく、何度も再検証できて、毎回同じ結果が出るかで決まります。論点はLLMの単価ではなく、実行時にLLMを呼ぶ構造かどうかです。
LLMガードレール型
- 再検証のたびに再課金される
- 同じ質問でも同じ答えは保証されない
- seed固定でも決定論は "best effort" 扱い
- 多数決5回でトークン約5倍、審査員3体でコスト約3倍
- キャッシュ割引があってもゼロにはならない
決定論的ゲート
- 判定ロジックにLLMを含めない
- 固定記録と確定アルゴリズムで再現する
- 再検証は何回やっても追加課金ゼロ
- 毎回同じ結果が出る
- 実行前に止める改札を作れる
| 方式 | 1リクエスト | 10万回/月 | 100万回/月 |
|---|---|---|---|
| LLMガードレール(小型モデル) | 約 $0.0011 | 約 $110 | 約 $1,100 |
| LLMガードレール(大型モデル) | 約 $0.0029 | 約 $290 | 約 $2,880 |
| 決定論的ゲート(runtime LLMなし) | トークン課金 ≈ $0 | ≈ $0 | ≈ $0 |
試算前提: input 約850 tokens / output 約50 tokens。モデル単価は変動するため目安です。決定論的ゲートにもホスティング等の運用費は生じます。初期のルール設計は重く、そのぶん運用後の監査コストが低い、という構造の違いです。
公開sandbox実測(warm): IDF/OZ /profile 約0.16秒 / IDF/OZ /healthz 約0.20秒 / ITS-Diff /replay-summary 約0.17秒。cold startはRender Free休止明けのみ約13秒。評価用の実測であり、性能保証ではありません。
デジタルの割印
AIの判定結果を社外や監査へ渡すとき、いちばん困るのは「出たときのまま変わっていないのか」を示す方法がないことです。
2つの書類にまたがって印を押し、あとから突き合わせて「対になっている・すり替わっていない」を確かめる——割印と同じ構造です。電子署名や法的な押印ではありません。
確かめる作業は、こちらのサーバーに接続せずに行えます。元データ・検証記録・対応表の3ファイルを手元に置いて検証ツールを実行すると、結果が返ります。同じ入力からは、いつ誰が実行しても、バイト単位で同じ検証レポートが出ます。
REPRODUCEDが意味するのは「元データと公開用の写しが、記録のとおり再現できた」ことだけです。内容が正しいこと、真実であることの保証ではありません。その判断は、人が行います。本Packは総合判定・スコア・ランキングを出しません。電子署名は未実装で、ハッシュは署名ではありません。
いま試せるもの
読むだけで終わらせない、が方針です。体感デモと、外部から実際に叩ける評価用APIを用意しています。
PoCの進め方
型は決めていません。御社の業務と段階に合わせて柔軟に組みます。目安として、よくある流れと規模感だけ置いておきます。
触って確かめる
先行トライアルで、御社のサンプルデータから判定・理由コード・再現性を確認します。所要30分〜。感想を一言いただければ十分です。
業務に当てて設計する
御社のユースケースに合わせて、判定ルール・理由コード・HOLD条件・人確認の導線を一緒に設計します。週1〜2回の設計レビューが目安です。
実データで検証する
匿名化した実データで判定を回し、検証記録(割印)まで含めて評価します。期間・規模は内容に応じて相談です。
費用の目安: 設計レビューの伴走は月20〜40万円程度、区切りのPoC一式は50〜150万円程度から、内容に応じてご相談です。無理な型に当てはめるより、小さく始めて確かめながら進めることを勧めています。
まずは30分、触ってみてください
重い契約や共同開発の話ではありません。接続情報をお渡しするので、御社のデータで確かめて、感想を一言ください。