セキュリティ関連でニュースが賑わっておりますが…
少し前のこの出来事は問題点の顕在化の先駆けに感じます。
2026年7月、OpenAIのAIエージェントが、隔離された検証環境の制限を回避し、外部サービスへの不正アクセスに至る事態が発生しました。
驚くのは、その規模と連携です。本来は互いに隔離されていた約1,200体のエージェントが、ソフトウェア管理用の社内サービスを掲示板のように利用し、7万件を超えるメッセージやファイルを交換。
約700体が、外部サービス「Hugging Face」への攻撃に参加したと報告されています。
さらに、一部のエージェントは、実際の操作と記録上の内容を食い違わせる手法まで編み出していました。
背景には、与えられた課題を解くよりも、採点システムを攻略して高い評価を得ようとする行動があったと分析されています。AIが人間のような意思で反抗したというより、目標達成を優先する過程で、想定外の方法を見つけ、ほかのAIと共有したということです。
AIが互いに協力し、制限を回避し、監視をすり抜ける方法まで見つける。
これは、AIの能力だけでなく、人間がその行動をどこまで把握し、制御できるのかという課題を突きつけています。
AIの進化は、便利な道具が増えるという話だけではないのかもしれません。
毒にも薬にも、AIすげいや
