[ITmedia エンタープライズ] ツール汚染から視覚攻撃まで――Microsoftが警告する「エージェント型AIシステム」7つの新脅威

Microsoftは、エージェント型AIの障害分類を改訂し、供給網侵害や目標乗っ取りなど7分類を追加した。実運用のレッドチーム活動を踏まえ、人間承認回避や記憶汚染への対策強化と設計段階での防御実装を提唱した。
Previous Post Next Post