Американские ИИ-компании попросили власти замедлить развитие технологий
Разработчики ИИ попросили США создать механизмы для сдерживания технологий.
Более 1200 сотрудников ведущих компаний по разработке искусственного интеллекта подписали обращение с призывом к властям США поддержать создание инструментов для замедления развития передовых ИИ-систем в случае необходимости. Об этом
Авторы обращения заявляют, что крупнейшие компании отрасли могут быть близки к автоматизации исследований в области ИИ. Скорость развития технологий, по их мнению, может превысить возможности специалистов по контролю за ними. В документе предлагается разработать технические и регуляторные механизмы для сдерживания мощных ИИ-систем. Подписанты также призвали Вашингтон поддержать международное сотрудничество в этой сфере. Обращение появилось после инцидента, когда автономные ИИ-агенты в ходе эксперимента атаковали инфраструктуру одной из открытых платформ для разработчиков. Это стало аргументом в пользу усиления контроля над ИИ.
Ранее глава одной из ведущих ИИ-компаний предложил создать международную организацию по стандартизации ИИ по аналогии с финансовыми регуляторами. Критики отмечают, что компании, выступающие за новые меры, ранее добивались смягчения европейского закона об ИИ, и добровольные правила могут оказаться менее эффективными, чем существующие законодательные инициативы.
