Эксперт МФТИ назвал главный риск загрузки медицинских документов в нейросети

Снимки, результаты анализов и другие медицинские документы пользователи все чаще самостоятельно передают искусственному интеллекту. Ученый МФТИ Александр Безносиков рассказал, какие риски может нести такая практика.

Загрузка медицинских документов, снимков и анамнеза в сервисы искусственного интеллекта может быть связана с рисками для конфиденциальности данных. Об этом рассказал директор Центра агентных систем ИИИ МФТИ, руководитель лаборатории BRAIn Lab, доктор физико-математических наук Александр Безносиков.

Поводом стало исследование ученых Технического университета Мюнхена и Имперского колледжа Лондона, опубликованное в Nature. Специалисты обнаружили уязвимость медицинских ИИ-моделей: в отдельных случаях определить присутствие данных конкретного пациента в обучающей выборке удавалось почти со 100% точностью.

По словам Александра Безносикова, при промышленном использовании данные пациентов обычно анонимизируют, удаляя ФИО и другие идентификаторы. Однако отдельного внимания требуют данные, которые люди самостоятельно передают ИИ.

При этом риски могут выходить за пределы информации об одном человеке.

В МФТИ также изучают способы повышения приватности при обучении ИИ, в том числе использование синтетических данных и математических механизмов защиты информации.

Читайте также: Как школьники погружаются в студенческую жизнь МФТИ еще до поступления