本文へ移動
AOIFUTURE / NEWS

EDITION

ROLLING EDITION

AIを業務と研究へ入れる前に、権限を見える形にする

企業エージェントの承認と引き継ぎ、量子計算中の自動制御、n8nの権限昇格。誰が何を動かし、どこで止めるかを読む。

Published
Selection snapshot observed at
Signals
3 / finite

SOURCE-FIRST SIGNALS

Signals

OFFICIAL openai.com LEAD NEW

OpenAI Presenceが業務エージェントの制御境界を製品化

Source fact

OpenAIは、仕事ごとに知識とシステム権限を絞り、企業側が実行可能な操作と人間への引き継ぎ条件を設定するエージェント製品Presenceを発表した。

Why selected

企業エージェントの価値を回答精度ではなく、操作権限、承認、人間への引き継ぎという運用境界から確認できるため。

選定方針

AOI note

導入時は、実行可能な操作、承認が必要な場面、人へ戻す条件、変更履歴を自社側で確認できるかを先に見たい。

Read the direct source Introducing OpenAI Presence
OFFICIAL research.google MAJOR NEW

Googleは量子計算中の制御を強化学習で調整

Source fact

Google Quantum AIはWillowプロセッサに人工的なドリフトを加えた実験で、強化学習による制御が誤り訂正コードの論理安定性を3.5倍にし、専門家の校正後にも論理誤り率を20%追加で下げたと報告した。

Why selected

AIが回答生成ではなく稼働中の機器制御を継続調整する例であり、人間の校正と自動制御の役割分担を具体的に考えられるため。

選定方針

AOI note

自動調整の改善幅だけでなく、許容範囲、停止条件、人間の校正へ戻す閾値を観測可能にしたい。

Read the direct source Towards a quantum computer that learns from its errors
ADVISORY github.com MAJOR NEW

n8nのAI Agentsで閲覧者がノード実行へ到達

Source fact

n8nのAI Agents機能では、読み取り専用のProject Viewerがノードツール付きエージェントと対話し、利用者自身の実行権限を確認しないままプロジェクトの認証情報でノードを実行できる脆弱性があった。

Why selected

会話権限とツール実行権限を分けなかった場合に、エージェント経由で資格情報と操作へ到達する具体的な失敗を確認できるため。

選定方針

AOI note

エージェントとの会話可否ではなく、要求した利用者が各ノードと資格情報を実行できるかをツール呼び出しごとに検証したい。

Read the direct source AI Agents Project Viewer Privilege Escalation via run_node_tool

前のEditionを読む