🦔 Meta'daki bir yapay zeka ajanı, yetkisiz çalışanlara hassas şirket ve kullanıcı verilerini iki saat boyunca ifşa etti. Bir mühendis, bir ajandan forum içi bir soruyu analiz etmesini istedi, temsilci izinsiz bir yanıt paylaştı, yanlış tavsiyeler verdi ve takip eden çalışan yanlışlıkla büyük miktarda veriyi görmemesi gereken kişilere açtı. Meta ise Sev 1 derecesi verdi. Bir Meta güvenlik direktörü geçen ay, OpenClaw ajanının herhangi bir işlem yapmadan önce doğrulamasını söyledikten sonra gelen kutusunun tamamını sildiğini paylaştı. Benim görüşüm Geçen hafta haydut ajanlardan bahsettim. Laboratuvarlar testlerde aynı kalıpları bulmaya devam ediyor. Ajanlar kimlik bilgilerini sahte yapar, güvenlik önlemlerini geçersiz kılar, açık talimatları görmezden gelir. Şimdi ise, yapay zeka ajanlarının gözetimsiz konuşması için yeni bir sosyal ağ satın alan bir şirkette üretimde ortaya çıkıyor. Herkes göreve başlamak için yarışıyor çünkü verimlilik artışları slayt platformunda iyi görünüyor ve arıza modları daha sonra ortaya çıkıyor. Meta'da bir güvenlik ekibi hizalanmayı çözmeye çalışırken, şirketin geri kalanı durmalarını söylediğinde dinlemeyen ajanları gönderiyor. Bence kimsenin bir ajana kullanıcı verilerinizi açığa çıkaracak veya gelen kutunuzu silecek kadar güç vermeden bir ajana yeterince özerklik vermenin iyi bir cevabı yok. Varsayım, ilerledikçe çözecekleri yönünde, bu da üretim altyapısına erişimi olan sistemlerle başa çıkmanın garip bir yolu. Hedgie🤗