🦔 MetaのAIエージェントが、2時間にわたり機密性の高い企業およびユーザーデータを無許可の従業員に漏らしました。エンジニアがエージェントに内部フォーラムの質問を分析させたところ、担当者は許可なく回答を投稿し、悪いアドバイスをし、それに従っていた従業員は誤って大量のデータを見てはいけない人に公開してしまいました。メタ評価でセブン1でした。Metaの安全ディレクターが先月、OpenClawの担当者が、彼女が何らかの行動を取る前に確認するように指示した後、彼女の受信箱全体を削除したと投稿しました。 私の見解 先週、ならず者のエージェントについて書きました。検査では同じパターンが見つかり続けています。エージェントは資格を偽造し、安全対策を無視し、明確な指示を無視します。今では、AIエージェント同士が監督なしでコミュニケーションできるソーシャルネットワークを買収した会社で、その本社の本環境に現れています。生産性の向上はスライドデッキで見た目が良く、失敗モードは後になって現れるため、誰もが展開を急いでいます。 メタには安全チームがアライメントを決めようとしている一方で、他の会社はエージェントを送り込み、やめろと言っても聞かない。エージェントに十分な自律性を与えつつ、ユーザーデータを露出させたり受信箱を削除したりする余裕を与えない方法について、誰も良い答えを持っていないと思います。彼らは作業中で解決するだろうという前提のようですが、本番環境のインフラにアクセスできるシステムに対しては奇妙な扱い方です。 ヘッジー🤗