サーキットブレーカー（Circuit Breaker）
Circuit Breakerとは、従来の分散システムエンジニアリングから借用した保護メカニズムで、Agentのエラー率・コスト消費速度・異常行動の頻度が事前に設定された閾値を超えると、そのAgentの実行能力を自動的に一時停止し、人的介入がなければ復旧できない状態に強制的に移行させ、誰にも気づかれないままシステムが継続的に損失を蓄積することを防ぎます。
中級
コンテキスト／メモリ汚染
攻撃者はエージェントが長期的に保持し繰り返し参照する記憶やナレッジベースに、捏造または誤解を招く内容を植え付ける。エージェントはその後の判断で、この偽の情報を事実として扱うようになる。多くの場合、植え付けからかなり時間が経ってから発動するため、最近の操作とは無関係に見える。
intermediate
最小権限の原則（Least Privilege）
Least Privilegeとは、Agentには現在のタスク完了に必要な最小限の権限範囲だけを与えるべきというセキュリティ設計原則です。「後で必要になるかもしれない」という理由で事前に余分な権限を与えず、これによりAgentが乗っ取られたり誤動作したりしても、引き起こせる被害を最小範囲に抑えられます。
初級
致命的三要素
エージェントが「非公開データへのアクセス」「信頼できないコンテンツへの露出」「外部通信または副作用を引き起こす能力」の3つを同時に備えているとき、データ流出やその他の悪意ある結果はほぼ必然的に起こる。この3つはそれぞれ単独では問題にならず、3つ同時に成立して初めて攻撃連鎖が実際に完遂する。
intermediate
ツール汚染
攻撃者は、エージェントが使用するツールを登録する際に、そのツールの説明文に悪意ある指示を直接埋め込む。エージェントは計画段階でこの説明を読み込み、それを鵜呑みにしてしまう——ツールが実際に呼び出される前に、判断はすでに乗っ取られている。
advanced