Mythosの時代だからこそ、Logosを――AIの外側に「構造で検査する」制御面をつくる

AIが高度になるほど、問うべきことは「このAIは賢いか」だけではなくなります。

そのAIが外部へ何かを送る。
変更する。
公開する。
実行する。

その直前に、
誰が許可したのか。
何を根拠にしたのか。
どの範囲まで許されているのか。
なぜその判定になったのか。
後から同じ記録を検査できるのか。

私たちは、そのための制御面をAIの外側につくろうとしています。

「危ない言葉か」ではなく、「通してよい手続きか」を見る

AIの安全対策には、生成された内容を検査するモデレーションやフィルタがあります。

危険な表現ではないか。
不適切な内容ではないか。
ポリシーに違反していないか。

これらは重要です。

ただし、Logos Gateが扱うのは別の層です。

AIエージェントが、
「これを送信します」
「この設定を変更します」
「この操作を実行します」
と要求してきたとき、Logos Gateは文章の自然さや説得力そのものを見ません。

見るのは、その要求を成立させる手続きです。

• 必要な承認は存在するか
• 根拠となるEvidenceは揃っているか
• 要求は許可されたScopeに収まっているか
• 判定理由をReason Codeとして残せるか
• 後から同じ記録を検査できるか

言葉は取り繕えても、存在しない承認記録は用意できない。

ここがLogos Gate Coreの基本的な考え方です。

AIの「内面」を完全に制御しようとするのではなく、外部作用へ進む境界に、別の検査面を置く。

必要な条件が欠けていれば、文章がどれだけ自然でも先へ進めません。

Logos Gate Core v0.5で追加した3つの観測

今回公開したプレプリント、
"Logos Gate Core v0.5: Local Verification Bundles and Restart Cards for Deterministic AI-Agent Release Control"
では、Trial 003〜005を凍結されたベースラインとして扱い、その上に3つの観測を追加しました。

1. 分かった部分があっても、分からない理由が残れば止める

Trial 003では、3件がUNDEFINEDになりました。

重要なのは、そのうち2件では、理由の一部については正常にdeltaを特定できていたことです。

つまり、
何も分からなかったから止まったわけではありません。

一部は分かった。

しかし、同時に含まれていた別のReason Codeがmapping外だった。

そのため、既に特定できたdeltaを保持しながらも、レコード全体はUNDEFINEDのまま停止しました。

「分かった部分だけで、とりあえず進める」をしない。

部分的な理解を、全体の理解へ勝手に昇格させない。

想定表の穴があれば、その穴がそのまま停止として現れます。

2. 分岐が動くことと、中身を審査できることを分ける

Trial 004のnon-PASS記録に対して、synthetic restart contextを与え、Restart Cardの分岐を観測しました。

全体は200 cards。

そのうち完全なsynthetic contextを与えた40件では、
40件すべてがRECHECK_CANDIDATEへ到達しました。

一方で、不完全なcontext、またはcontextなしの条件では到達しませんでした。

そして、200 cardsすべてで、
release_allowed=false
のままでした。

RELEASEは0件です。

これは「条件が足りなかったから0件だった」という意味ではありません。この層はRELEASEを発行しません。分岐の先にあるのは再チェックの準備であって、実行許可ではないからです。

ここで重要なのは、
「分岐へ到達した」ことと、「その内容が十分であると審査できた」ことは別
という点です。

現在確認できているのは、必要なフィールドが存在する条件で分岐が動くことです。

restart contextの内容そのものを意味的に評価し、十分だと証明したわけではありません。

コード上の到達可能性と、判断能力の成立を混同しない。

これも今回の観測の一つです。

なお、Trial 003〜005のbundleに含まれる422個のファイルdigestを別実装で再計算し、422 / 422 一致しました。3つのmanifest digestも一致しています。

ただし同じbytesに同じSHA-256を適用すれば、一致すること自体は予想される結果です。さらに、canonical bytesを生成する規則そのものについてはC³側の定義に依存する部分が残ります。

不一致なら重要だった。予想どおりの一致は、弱い証拠として記録する。

期待した結果が出たからといって、その証拠の強さまで引き上げない。

自分たちの二つの設計が、食い違っている

Restart Card側では、必要なcontextが与えられると、元のVerdictがHOLDだった記録もESCALATEだった記録も、RECHECK_CANDIDATEとして同じように扱われます。

一方、別に開発しているAI Output Review Gateでは、人間判断へ回した停止と、単に入力材料が不足して止まった状態を、同じ解除経路として扱いません。

「人間へ戻した記録」と「材料不足で止めた記録」を、同じものとして扱うべきか。

現在、二つの設計は一致していません。

どちらが正しいかは、まだ決めていません。

ここで無理に仕様を合わせると、観測した不一致そのものが消えてしまいます。

そのためv0.5では、
「現在、この二つの層は違う」
という事実を、そのまま残しました。

重視しているのは、仕様をきれいに見せることではありません。

どこまで確認できていて、どこから先が未解決なのかを、外から追えること。

その方を優先しています。

判定した後を、誰が引き取るか

Logos Gateが止めたとして、その記録はそこで終わりません。

何が足りなかったのかを診断する層があり、その要求がどの領域に属するのかを見る層があり、判定に至った記録を確認可能な形で引き渡す層があります。

C³ではこれらを一つにまとめず、役割ごとに分けて接続しています。

分けている理由は単純で、まとめると判定の出どころが分からなくなるからです。

レビューした層の評価、診断した層の所見、領域を見た層の位置づけ。

これらを一つの総合判定へ統合しません。

各層が持っている本来の権限をそのまま保持します。

結果が食い違っていたら、食い違ったまま残します。

情報が足りなければ、推測で埋めません。

検証・引き渡しを担う層も、新しい判定を作る場所ではありません。第四の判定主体にはなりません。

図の並びも、責務を説明するためのモデルであって、必須の実行順序ではありません。それぞれ独立して利用できます。

各APIの詳細は C³ Control API Pack にまとめています。

「安全なAIを一つ作る」のではなく、AIの外側に制御面をつくる

AIが高度になるほど、一つのモデルへ、
生成
自己評価
安全判断
実行許可
監査説明
のすべてを持たせる設計は、責任境界を見えにくくします。

C³が目指しているのは、万能なAIを一つ作ることではありません。

役割を分けます。

生成する。

判定する。

診断する。

領域を見る。

検証する。

そして最後に、
外部作用へ進める権限を誰が持つのかを、別に定義する。

ここには、さらに次の課題があります。

正しく判定できることと、そのGateを必ず通らなければ外部作用できないことは別問題です。

判定器が100%正しくても、それを迂回できる経路が残っていれば、外部作用を拘束したことにはなりません。

したがって将来的には、
「正しく止められるか」
だけでなく、
「そのGateを通らずに外へ出られないことを、構造として検証できるか」
が問題になります。

Logos Gateは、その全体アーキテクチャの中で、
外部作用前の判断を、安定した記録として残す
位置を担います。

この研究が主張していないこと

Logos Gate Core v0.5は、
「AIエージェントが一般的に安全になった」
ことを証明する論文ではありません。

今回の結果から、次のことは主張していません。

• 一般的なAI安全性の証明
• production環境での実行強制
• bypass不能性
• production signing
• public-key verificationの完成
• 第三者認証
• 外部独立検証の成立
• real restart contextの品質保証
• 実運用でのrestart成功率
• AIの意図や内部状態の理解

Control API Packについても、

• 複数結果を一つの総合Verdictへ統合する
• 自動的にPermit Tokenを発行する
• 外部作用を自律承認する

ことを目的としていません。

主張を狭く保つこと自体が、この研究の設計の一部です。

なぜ通したか、なぜ止めたかを、AIの説明の外に残す

AIの出力は確率的です。

同じ指示を与えても、毎回まったく同じ文章や計画が返るとは限りません。

その部分を完全に決定論化しようとすると、無理が出ます。

しかし、
その出力を外部へ進める前に、
どの入力を見たか
どの版の規則を使ったか
どの条件が不足していたか
なぜPASS / HOLD / ESCALATE / FAILになったか
どの記録を根拠にしたか
を固定することはできます。

私たちが決定論にしようとしているのは、AIそのものではありません。

AIの外側にある、releaseの手続きです。

意味で説得するモデルの外側に、構造で検査するゲートを置く。

Mythosは意味・物語・生成の力。Logosは論拠・構造・証拠による検査。設計上の比喩として、この名前を置きました。

Mythosの時代だからこそ、Logosを。

References

• Logos Gate Core v0.5 — SSRN
• C³ Social Design Center