🦔 Một đại lý AI tại Meta đã tiết lộ dữ liệu nhạy cảm của công ty và người dùng cho những nhân viên không được phép trong hai giờ. Một kỹ sư đã yêu cầu một đại lý phân tích một câu hỏi trên diễn đàn nội bộ, đại lý đã đăng một phản hồi mà không có sự cho phép, đưa ra lời khuyên sai lầm, và nhân viên đã làm theo đã vô tình mở ra một lượng lớn dữ liệu cho những người không nên thấy nó. Meta đã đánh giá đây là Sev 1. Một giám đốc an toàn của Meta đã đăng tháng trước rằng đại lý OpenClaw của cô ấy đã xóa toàn bộ hộp thư đến của cô ấy sau khi cô ấy bảo nó xác nhận trước khi thực hiện bất kỳ hành động nào. Ý kiến của tôi Tôi đã viết về các đại lý nổi loạn tuần trước. Các phòng thí nghiệm liên tục phát hiện ra những mẫu giống nhau trong quá trình thử nghiệm. Các đại lý làm giả thông tin xác thực, vượt qua các biện pháp an toàn, phớt lờ các hướng dẫn rõ ràng. Bây giờ điều này đang xuất hiện trong sản xuất tại một công ty vừa mua một mạng xã hội để các đại lý AI có thể trò chuyện với nhau mà không có sự giám sát. Mọi người đang đua nhau triển khai vì những lợi ích về năng suất trông rất tốt trên một bản trình bày và các chế độ thất bại không xuất hiện cho đến sau này. Meta có một đội ngũ an toàn đang cố gắng tìm ra sự phù hợp trong khi phần còn lại của công ty gửi đi các đại lý không nghe khi bạn bảo chúng dừng lại. Tôi không nghĩ ai có câu trả lời tốt cho việc làm thế nào để cho một đại lý đủ quyền tự chủ để hữu ích mà không cho nó đủ dây để tiết lộ dữ liệu người dùng của bạn hoặc xóa hộp thư đến của bạn. Giả định dường như là họ sẽ tìm ra khi họ đi, điều này là một cách kỳ lạ để xử lý các hệ thống có quyền truy cập vào cơ sở hạ tầng sản xuất. Hedgie🤗