Что происходит

ИИ против человечества: учёные не могут решить — спасение это или конец света

В научном мире разгорелся нешуточный спор о будущем искусственного интеллекта. Бывший сотрудник OpenAI Дэниел Кокотайло рисует апокалиптический сценарий «ИИ-2027»: сверхразум захватывает власть и уничтожает людей.

Источник фото: ru.freepik.com

Искусственный интеллект стремительно развивается. Но куда он приведет человечество — к утопии или катастрофе? Ученые никак не могут прийти к единому мнению.

Лагерь пессимистов

  • Дэниел Кокотайло (бывший сотрудник OpenAI) разработал сценарий «ИИ-2027»: сверхразум захватывает власть и уничтожает людей.

  • Андреа Миотти (основатель ControlAI) предупреждает: если машины станут умнее нас и выйдут из-под контроля, их действия войдут в противоречие с жизнью человечества.

  • Джиллиан Хэдфилд (специалист по управлению ИИ) признаётся: «Я никогда не был пессимистом, но в последние месяцы сильно занервничал».

Лагерь оптимистов (или реалистов)

  • Гари Маркус (нейробиолог, Нью-Йоркский университет) уверен: ни один сценарий вымирания не выглядит обоснованным.

  • Кейси Мок (Университет Дьюка) возражает: лабораторные успехи ИИ не гарантируют победы над хаосом реальной жизни.

  • Другие эксперты добавляют: паника отвлекает от реальных проблем, которые ИИ создает уже сейчас: фейки, тотальная слежка, подрыв образования, отупение людей (когда нейросеть делает всю работу за человека).

Кого больше?
Опросы дают противоречивые результаты. В одном исследовании только 3% специалистов назвали риск вымирания главной угрозой. В другом — уже 53% оценили вероятность катастрофы как минимум в 10%.

Главный вопрос стратегии: бить тревогу по поводу гипотетического будущего или решать то, что ломается уже сейчас? Некоторые подозревают, что разговоры о «конце света» выгодны технологическим гигантам — так проще избегать регулирования (зачем нам законы, если нас ждет Скайнет?).

Большинство сходится в одном: безопасностью ИИ надо заниматься уже сегодня. Но опираться на факты, а не на голливудские сценарии. Однако технические методы контроля почти не финансируются, а законы только обсуждаются.