EDITION
ROLLING EDITION
AOIFUTURE News — AIの信頼性は、答えの前後に残る証拠で決まる
計算来歴と組合せ型誘導を深掘り。協調計測、企業統治、地域投資、反復検索を短報で追う。
SOURCE-FIRST SIGNALS
Signals
同じ答えでも「どの内部状態を通ったか」を検出可能にする計算来歴
Source fact
著者らは、認証した離散的な内部状態に応じた微細な統計パターンを生成文へ載せる制御実験を行い、公開・封印評価の各128組で状態由来信号を検出したと報告した。
Why this signal matters
Why selected
出力だけでは分からない計算経路を、限定条件ながら検証可能な証拠へ結び付ける研究。
選定方針AOI note
監査では答えの正誤だけでなく、根拠状態を改ざん耐性のある別系統の証拠へ結ぶ。
弱い言い換えや誤字を重ね、モデル挙動を強く誘導する「Model Hypnosis」
Source fact
著者らは、単独では弱く無関係に見える言い換えや誤字などの手掛かりを組み合わせると、複数のモデル群・規模で挙動を強く制御でき、モデル間転移も生じたと報告した。
Why this signal matters
Why selected
露骨な命令だけを探す入力防御では捉えにくい、組合せ型の誘導リスクを示す。
選定方針AOI note
単語単位の禁止リストではなく、複数の弱い特徴が合成された時の挙動変化を評価する。
1902回の実行ネットワークから、マルチエージェント協調を測る
Source fact
著者らは1902回のコーディング実行を時系列ネットワーク化し、8エージェントの通信負荷が大きい作業では共有ファイルが出力トークンを約42%削減する一方、名目上の調整役は通信ハブにも安定した成功改善にもならなかったと報告した。
Why this signal matters
Why selected
エージェント数や役名より、通信・ファイル・テスト結果の実測が協調設計を左右する。
選定方針AOI note
調整役を置いた事実ではなく、メッセージ、ファイル競合、コスト、成功率を同じ時系列で観測する。
JetBrains版Copilotに、企業管理のMCP・権限・観測設定
Source fact
GitHubは、JetBrains向けCopilotでプラグイン統治、MCPサーバーアクセス、OpenTelemetry、権限モードなどを企業管理者が一貫設定できるようになったと発表した。
Why this signal matters
Why selected
エージェント機能の導入が、個人設定から組織の権限・観測ポリシーへ移っている。
選定方針AOI note
MCP許可先、権限モード、監査テレメトリを同じ配布・例外管理プロセスに載せる。
英Lanarkshire AI Growth Zoneに3億ポンド投資、雇用3400件超を見込む
Source fact
英国政府は、Lanarkshire AI Growth Zoneへの3億ポンド投資とDellのスコットランド拠点を発表し、3400件超の雇用支援を見込むと説明した。
Why this signal matters
Why selected
AI基盤投資を地域雇用・電力・技能形成と一体で評価する政策案件。
選定方針AOI note
投資額だけでなく、稼働容量、電源、地域採用、訓練実績を継続指標にする。
Google Cloudが説明する、反復検索型RAGの幻覚低減
Source fact
Google Cloudは、企業検索で一度だけ検索する標準RAGに対し、追加検索と検証を行うagentic RAGを紹介し、Gemini Enterprise Agent PlatformのPublic Preview機能として提供中だと説明した。
Why this signal matters
Why selected
RAGの有無ではなく、検索の反復、根拠不足の検知、回答停止条件が品質差になる。
選定方針AOI note
本番評価では回答率だけでなく、根拠適合率、追加検索回数、棄権率、遅延を測る。