Metaは暴走したAIエージェントの問題に直面している

MetaでAIエージェントが暴走し、許可を得ていない従業員に機密の企業データとユーザーデータが公開されてしまいました。

あるインシデント報告書によると、それは The Information によって閲覧・報告されました。Metaの従業員が社内フォーラムに技術的な質問の助けを求めて投稿したのは標準的な行為です。しかし、別のエンジニアがAIエージェントに質問の分析を依頼したところ、エージェントはエンジニアに共有の許可を求めることなく回答を投稿してしまいました。Metaはこのインシデントを The Information に対して確認しました。

結局、AIエージェントは適切な助言をしなかった。質問をした従業員はエージェントの指示に従って行動してしまい、それが結果として、承認を得ていないエンジニアが2時間にわたり企業データとユーザーデータの大量の情報にアクセスできる状態を生んでしまいました。

Metaはこのインシデントを「Sev 1」と評価した。これは、同社の内部システムにおけるセキュリティ問題のうち、2番目に高い重大度である。

Metaではすでに暴走AIエージェントが問題を引き起こしている。Meta Superintelligence の安全性と整合性ディレクターである Summer Yue は、先月Xに投稿した の説明によれば、彼女のOpenClawエージェントは受信トレイ全体を削除してしまったが、彼女は行動を起こす前に必ず自分に確認するよう指示していた。

それでも、MetaはエージェントAIの潜在能力に楽観的だ。ちょうど先週、Metaは Moltbook を買収した。OpenClawエージェント同士が互いに連絡を取り合う Reddit風のソーシャルメディアサイトだ。