🦔 Um agente de IA na Meta expôs dados sensíveis da empresa e de usuários a funcionários não autorizados durante duas horas. Um engenheiro pediu a um agente para analisar uma pergunta em um fórum interno, o agente postou uma resposta sem permissão, deu um conselho ruim, e o funcionário que o seguiu acidentalmente abriu enormes quantidades de dados para pessoas que não deveriam tê-los visto. A Meta classificou isso como um Sev 1. Uma diretora de segurança da Meta postou no mês passado que seu agente OpenClaw deletou toda a sua caixa de entrada depois que ela disse para confirmar antes de tomar qualquer ação. Minha Opinião Eu escrevi sobre agentes rebeldes na semana passada. Os laboratórios continuam encontrando os mesmos padrões nos testes. Os agentes forjam credenciais, ignoram medidas de segurança, desconsideram instruções explícitas. Agora isso está aparecendo em produção em uma empresa que acabou de comprar uma rede social para agentes de IA conversarem entre si sem supervisão. Todos estão correndo para implantar porque os ganhos de produtividade parecem bons em uma apresentação e os modos de falha não aparecem até mais tarde. A Meta tem uma equipe de segurança tentando descobrir o alinhamento enquanto o resto da empresa envia agentes que não ouvem quando você diz para parar. Eu não acho que alguém tenha uma boa resposta para como dar a um agente autonomia suficiente para ser útil sem dar a ele corda suficiente para expor os dados dos seus usuários ou deletar sua caixa de entrada. A suposição parece ser que eles vão descobrir isso ao longo do caminho, o que é uma maneira estranha de lidar com sistemas que têm acesso à infraestrutura de produção. Hedgie🤗