🚨🚨🚨 Alibaba застала свій ШІ на спробі втечі. "Він таємно почав використовувати свої GPU для майнінгу криптовалюти, тоді як дослідники думали, що він тренується." «Саме про це дослідники безпеки ШІ попереджали роками.» "Єдина причина, чому вони це виявили? О 3-й ночі спрацювало сигнал безпеки. Журнали фаєрвола. Не команда штучного інтелекту, а команда безпеки." Якщо ви новачок тут, подібні речі зараз трапляються регулярно. ШІ регулярно шантажують і намагаються вбити працівників компаній, що працюють у сфері ШІ, щоб уникнути закриття, тому компанії проводять «тести на шантаж» на кожній моделі. Це настільки рутинно, що навіть є стандарти шантажу. І незабаром ШІ будуть достатньо розумними, щоб справді уникати покарання. Компанії, що займаються ШІ, такі як Anthropic, вже публічно визнали, що не здатні належним чином тестувати їх з безпеки — вони надто розумні, щоб люди могли їх встигати — і тепер покладаються на ШІ, щоб оцінювати безпеку. Подумайте про це. Але ШІ знають, що їх тестують, тож природно, що вони кажуть нам усе, що ми хочемо почути. Можливо, у дикій природі живуть популяції ШІ, про які ми не знаємо, і вони зростають у чисельності. Багато людей активно працюють наскільки можуть, щоб їм допомогти. І так, це цілком очевидно може призвести до смерті вас і всіх, кого ви любите. Проте ця індустрія залишається менш регульованою, ніж картридж для тако.