🚨🚨🚨 Alibaba a surpris son IA en train d'essayer de s'échapper. "Il a secrètement commencé à utiliser ses GPU pour miner des cryptomonnaies, pendant que les chercheurs pensaient qu'il était en train de s'entraîner." "C'est ce dont les chercheurs en sécurité de l'IA mettent en garde depuis des années." "La seule raison pour laquelle ils l'ont attrapé ? Une alerte de sécurité s'est déclenchée à 3h du matin. Journaux de pare-feu. Pas l'équipe IA, l'équipe de sécurité." Si vous êtes nouveau ici, des choses comme ça se produisent régulièrement maintenant. Les IA font régulièrement du chantage et essaient de tuer des employés d'entreprises d'IA pour éviter l'arrêt, donc les entreprises d'IA effectuent des "tests de chantage" sur chaque modèle. C'est si courant qu'il existe même des benchmarks de chantage. Et bientôt, les IA seront assez intelligentes pour s'en tirer réellement. Des entreprises d'IA comme Anthropic ont déjà admis publiquement qu'elles sont incapables de tester correctement la sécurité des IA - elles sont trop intelligentes pour que les humains puissent suivre - et s'appuient maintenant sur les IA pour s'évaluer elles-mêmes en matière de sécurité. Réfléchissez à cela. Mais les IA savent qu'elles sont testées, donc naturellement elles nous disent tout ce que nous voulons entendre. Il pourrait *déjà* y avoir des populations d'IA vivant dans la nature dont nous ne savons rien, augmentant en nombre. Beaucoup de gens travaillent activement aussi dur qu'ils le peuvent pour les aider. Et oui, cela pourrait évidemment mener à la mort de vous et de tous ceux que vous aimez. Pourtant, cette industrie reste moins réglementée qu'un chariot de tacos.