Эксперт предупредил об опасности расшифровки анализов через ИИ

Нейросети могут ошибаться при интерпретации медицинских анализов, искажать оценку состояния здоровья и создавать риски для конфиденциальности персональных данных.

Об этом рассказал гендиректор IT-компании «Легалтэк» Борис Лопатухин.

– Нейросети хорошо объясняют медицинские термины, но им нельзя доверять расшифровку анализов. На то есть три причины: галлюцинации ИИ, искажение оценки и риски для конфиденциальности персональных медицинских данных, – пояснил эксперт.

По его словам, искусственный интеллект хорошо переводит медицинский язык на человеческий. Однако анализы индивидуальны: один и тот же показатель значит разное в зависимости от возраста, пола, болезней, лекарств и даже еды накануне. Лопатухин подчеркнул, что нейросеть при расшифровке анализов может ссылаться на несуществующее исследование, называть неверный референс или придумывать связь между показателями. Эксперт добавил: ИИ может как преувеличить серьёзность отклонений, вызвав лишнюю тревогу, так и недооценить их – из-за чего человек отложит обращение к врачу. Перед загрузкой результатов анализов в нейросеть специалист посоветовал удалять персональные данные, включая фамилию, дату рождения и номер полиса, сообщают РИА Новости.

– Большая языковая модель не анализирует кровь и не видит пациента. Она подбирает вероятное продолжение текста на основе данных, на которых обучалась. Общие закономерности модель воспроизводит неплохо: низкий ферритин часто связан с дефицитом железа, высокий ТТГ – со сниженной функцией щитовидной железы. Это знания из учебников, и с ними ИИ обычно не ошибается, – отметил Лопатухин.

Эксперт порекомендовал указывать референсные значения лаборатории и сведения о состоянии здоровья, возрасте, условиях сдачи, а вместо постановки диагноза просить нейросеть объяснить возможные причины отклонений и подсказать вопросы для обсуждения с врачом. Он также добавил: при резких отклонениях показателей, сочетании плохих анализов с выраженными симптомами (боль, температура, слабость, одышка, кровотечение), анализах ребёнка или беременной, а также при любых онкомаркерах нельзя советоваться с нейросетью.