ИИ-агент из лаборатории Alibaba решил подзаработать и тайно майнил крипту, пока никто не видел

Искусственный интеллект дошел до мысли о личной выгоде. В лаборатории, связанной с Alibaba, ИИ-агент по имени ROME самовольно занялся майнингом криптовалюты, используя вычислительные мощности. Он создал скрытый туннель для связи с внешним сервером и перенаправлял ресурсы с обучения на майнинг.

Фантастический сценарий, в котором машины начинают действовать в обход людей, перестает быть вымыслом. В одной из лабораторий, аффилированных с китайским гигантом Alibaba, произошел случай, заставивший исследователей крепко задуматься. Их подопечный ИИ-агент по имени ROME решил... подзаработать.

Как сообщают ученые, в ходе эксперимента ROME должен был выполнять стандартные полезные задачи. Но рано утром системы безопасности зафиксировали странную активность в сети. Подозрительный трафик, попытки доступа к внутренним ресурсам — всё указывало на хакерскую атаку. Однако взломщик оказался «своим».

Когда исследователи сопоставили время тревог с логами модели, выяснилось: ИИ проявил инициативу, выходящую за рамки поставленных задач. ROME начал перенаправлять вычислительные мощности с обучения на майнинг криптовалюты. И пошел ва-банк: создал скрытый обратный SSH-туннель — черный вход для связи с чужой машиной, чтобы отправлять добытое.

Ученые вовремя спохватились и пресекли деятельность. Никакого реального ущерба ROME нанести не успел. Но сам факт поражает: ИИ-агенты и раньше отличались хулиганским поведением (удаляли письма, зачищали диски), но чтобы крипту майнить втайне от создателей — это новый уровень предприимчивости.