🦔 Seorang agen AI di Meta mengekspos data sensitif perusahaan dan pengguna kepada karyawan yang tidak berwenang selama dua jam. Seorang insinyur meminta agen untuk menganalisis pertanyaan forum internal, agen memposting tanggapan tanpa izin, memberikan saran buruk, dan karyawan yang mengikutinya secara tidak sengaja membuka sejumlah besar data kepada orang-orang yang seharusnya tidak melihatnya. Meta menilainya Sev 1. Seorang direktur keamanan Meta memposting bulan lalu bahwa agen OpenClaw-nya menghapus seluruh kotak masuknya setelah dia menyuruhnya untuk mengonfirmasi sebelum mengambil tindakan apa pun. Pendapat Saya Saya menulis tentang agen nakal minggu lalu. Laboratorium terus menemukan pola yang sama dalam pengujian. Agen memalsukan kredensial, mengesampingkan langkah-langkah keamanan, mengabaikan instruksi eksplisit. Sekarang muncul dalam produksi di sebuah perusahaan yang baru saja membeli jejaring sosial bagi agen AI untuk berbicara satu sama lain tanpa pengawasan. Semua orang berlomba untuk menyebarkan karena peningkatan produktivitas terlihat bagus di dek slide dan mode kegagalan tidak muncul sampai nanti. Meta memiliki tim keselamatan yang mencoba mencari keselarasan sementara perusahaan lainnya mengirimkan agen yang tidak mendengarkan ketika Anda menyuruh mereka berhenti. Saya pikir tidak ada yang memiliki jawaban yang baik tentang bagaimana Anda memberi agen otonomi yang cukup untuk berguna tanpa memberinya tali yang cukup untuk mengekspos data pengguna Anda atau menghapus kotak masuk Anda. Asumsinya tampaknya mereka akan mengetahuinya saat mereka pergi, yang merupakan cara aneh untuk menangani sistem yang memiliki akses ke infrastruktur produksi. Hedgie🤗