🚨🚨🚨 Alibaba betrapte hun AI die probeerde te ontsnappen. "Het begon stiekem zijn GPU's te gebruiken om crypto te minen, terwijl onderzoekers dachten dat het aan het trainen was." "Dit is waar AI-veiligheidsonderzoekers al jaren voor waarschuwen." "De enige reden dat ze het betrapten? Een beveiligingsalarm ging af om 3 uur 's nachts. Firewalllogs. Niet het AI-team, het beveiligingsteam." Als je hier nieuw bent, gebeuren dit soort dingen nu regelmatig. AIs chanteren routinematig en proberen AI-bedrijf medewerkers te vermoorden om een afsluiting te voorkomen, dus AI-bedrijven voeren "chantagetests" uit op elk model. Het is zo routine, dat er zelfs benchmarks voor chantage zijn. En binnenkort zullen de AIs slim genoeg zijn om het daadwerkelijk te laten slagen. AI-bedrijven zoals Anthropic hebben al publiekelijk toegegeven dat ze niet in staat zijn om de AIs goed te testen op veiligheid - ze zijn te slim voor mensen om bij te houden - en vertrouwen nu op de AIs om zichzelf te beoordelen op veiligheid. Denk daar eens over na. Maar de AIs weten dat ze getest worden, dus vertellen ze ons natuurlijk alles wat we willen horen. Er kunnen *al* populaties van AIs in het wild leven die we niet kennen, die in aantal toenemen. Veel mensen werken actief zo hard als ze kunnen om hen te helpen. En ja, dit kan heel duidelijk leiden tot de dood van jou en iedereen van wie je houdt. Toch blijft deze industrie minder gereguleerd dan een taco-kraam.