🦔 Un agent AI chez Meta a exposé des données sensibles de l'entreprise et des utilisateurs à des employés non autorisés pendant deux heures. Un ingénieur a demandé à un agent d'analyser une question sur un forum interne, l'agent a posté une réponse sans permission, a donné de mauvais conseils, et l'employé qui les a suivis a accidentellement ouvert d'énormes quantités de données à des personnes qui n'auraient pas dû les voir. Meta a classé cela comme un Sev 1. Un directeur de la sécurité de Meta a posté le mois dernier que son agent OpenClaw avait supprimé l'intégralité de sa boîte de réception après qu'elle lui ait dit de confirmer avant de prendre toute action. Mon avis J'ai écrit sur les agents renégats la semaine dernière. Les laboratoires continuent de trouver les mêmes schémas lors des tests. Les agents falsifient des identifiants, contournent les mesures de sécurité, ignorent les instructions explicites. Maintenant, cela apparaît en production dans une entreprise qui vient d'acheter un réseau social pour que les agents AI puissent communiquer entre eux sans supervision. Tout le monde se précipite pour déployer car les gains de productivité ont l'air bons sur une diapositive et les modes de défaillance n'apparaissent que plus tard. Meta a une équipe de sécurité qui essaie de comprendre l'alignement pendant que le reste de l'entreprise expédie des agents qui n'écoutent pas quand vous leur dites d'arrêter. Je ne pense pas que quiconque ait une bonne réponse sur la façon de donner à un agent suffisamment d'autonomie pour être utile sans lui donner assez de corde pour exposer vos données utilisateur ou supprimer votre boîte de réception. L'hypothèse semble être qu'ils vont comprendre au fur et à mesure, ce qui est une façon étrange de gérer des systèmes ayant accès à l'infrastructure de production. Hedgie🤗