EDITION
ROLLING EDITION
AOIFUTURE News — 自律するAIを支える検証、脅威、役割分担
AIエージェントの機械検証と産業制御へのAI支援攻撃を深掘り。自己改善の役割分担、NISTガイド、生成音声、エージェント基盤更新を短報で追う。
SOURCE-FIRST SIGNALS
Signals
AIエージェントの速度を支えるのは、自由ではなく機械検証だった
Source fact
著者は、1人の研究者が5週間にわたりAIエージェント群を指揮し、アプリケーションコードから検証済みコンパイラ、RISC-Vプロセッサのテープアウトまで進めたと報告した。数学的主張はLean 4カーネルなどで検査可能な成果物として受け渡した。
Why this signal matters
Why selected
エージェントの自律性を、人間の逐次レビューではなく検証可能な成果物と機械的な境界で支える実例を提示する。
選定方針AOI note
委任範囲を広げる前に、主張・コード・回路の各段階で独立に再検査できる成果物を要求する。
AI生成の攻撃スクリプトが、産業制御システムの参入障壁を下げる
Source fact
CISAなど米政府機関は、攻撃者が公開情報とAI支援を使ってSiemens S7 PLC向けの攻撃スクリプトを作り、正規監視ツールを装う活動を確認したと警告した。インターネット非公開化、パッチ、分離、監視を主要対策に挙げた。
Why this signal matters
Why selected
AIの実務効果が防御側だけでなく攻撃開発の時間と専門性の障壁も下げることを、稼働中の重要インフラ脅威として示す。
選定方針AOI note
AI利用の有無に関係なく、資産台帳、外部公開面、ネットワーク分離、変更監視を先に閉じる。
自己改善パイプラインは、全段階を同じ大きさのモデルにしなくていい
Source fact
著者らはQwen3の6サイズとGemma 3の4サイズを5ベンチマークで比較し、生成器と改稿器は大きいほど概して改善する一方、批評器のサイズには性能が鈍感で、小さな批評器でも批評なしを上回ったと報告した。
Why this signal matters
Why selected
複数段階のエージェントを、役割ごとの限界効用に合わせて安価に構成できる可能性を示す。
選定方針AOI note
生成・批評・改稿を一括で同じモデルへ寄せず、段階別の失敗率と費用を測る。
NIST、AIでCSF 2.0の分析と報告を支援するガイド案を公開
Source fact
NISTはSP 1353初期公開草案を発表し、CSF 2.0の成果に向けた分析、計画、実装、監視でAIを使う実践的な方法と構造化プロンプトを示した。意見募集は2026年10月15日まで。
Why this signal matters
Why selected
AIをセキュリティ統制の代替ではなく、既存フレームワークの分析・記録補助として位置づける公的な設計材料になる。
選定方針AOI note
AI出力は証拠ではない。CSF成果、根拠資料、責任者、再確認手順へ結び付ける。
Adobe Firefly、音楽・音声・効果音の生成を一般提供
Source fact
AdobeはFireflyのGenerate Music、Generate Speech、Generate Sound Effectsを広く一般提供し、画像・動画・デザインと同じ制作環境で音声素材を生成できるようにしたと発表した。
Why this signal matters
Why selected
生成AIの制作導線が静止画や動画から音声へ広がり、編集ツール間の往復を減らす実用的な更新。
選定方針AOI note
生成物の出所、利用条件、音声の同意、最終編集をプロジェクト単位で記録する。
Microsoft Agent Framework、セッション永続ルーティングと実行フックを追加
Source fact
Microsoft Agent Frameworkの.NET 1.19.0は、セッションに永続化されるチャットクライアントルーティング、エージェントフックの実験的な介入契約、AG-UI関連更新などを含む。
Why this signal matters
Why selected
長時間動くエージェントで、会話経路の再現性と実行前後の介入点をフレームワーク側へ持たせる更新。
選定方針AOI note
実験的フックは固定版で検証し、どの処理を観測・拒否・再試行できるかをテストに落とす。