Российские ученые создали нейросеть для обнаружения дипфейков в видеозвонках
Специалисты СПб ФИЦ РАН разработали нейросеть, определяющую дипфейки с высокой точностью. Система анализирует скрытые параметры изображения и выявляет характерные искажения.
Цифровая безопасность получает новое мощное оружие в борьбе с кибермошенничеством: ученые Санкт-Петербургского федерального исследовательского центра Российской академии наук представили революционную разработку — нейросеть, способную с высокой точностью распознавать дипфейки в режиме реального времени во время видеозвонков. Это своевременный ответ на растущую угрозу, когда преступники все чаще используют технологии подмены лиц для социальной инженерии и выманивания денег. Об этом сообщили в пресс-службе учреждения.
Разработка основана на принципиально новом подходе к анализу видеоконтента. «В отличие от обычного визуального восприятия, когда человеку очень сложно заметить хорошо сделанную подделку, система анализирует множество скрытых параметров изображения и выявляет характерные искажения», — поясняют создатели технологии. Нейросеть детектирует малейшие артефакты, возникающие при применении технологии фейс-свап, которые практически незаметны невооруженному глазу.
Основательность подхода российских ученых впечатляет: на первом этапе проекта была создана обширная база из более чем 30 тысяч изображений, сгенерированных с помощью открытых ИИ-сервисов — именно такие инструменты активно используют кибермошенники в своей преступной деятельности. На этой масштабной обучающей выборке и была тренирована нейросеть, что обеспечило ей высокую точность распознавания даже качественно сделанных подделок.
«Точность распознавания оказалась высокой», — констатируют исследователи, хотя и не приводят пока конкретных процентных показателей, что характерно для стадии активной доработки технологии.
В настоящее время создается программная библиотека, которую можно будет интегрировать в популярные мессенджеры и сервисы видеосвязи. В этом случае пользователь получит автоматическое предупреждение о вероятности подделки собеседника непосредственно во время разговора — до того, как мошенникам удастся достичь своих преступных целей.
Появление такой технологии особенно актуально на фоне участившихся случаев, когда злоумышленники, используя дипфейки известных людей или родственников жертв, вымогают крупные суммы денег. Российская разработка может стать важным элементом национальной системы кибербезопасности и получить экспортный потенциал, учитывая глобальный характер проблемы цифрового мошенничества с использованием технологий искусственного интеллекта.
Ранее мы рассказывали о том, что МВД советуют хранить сканы документов в защищенных облачных хранилищах и использовать менеджеры паролей для защиты от киберпреступников.