Доверяй, но проверяй: почему нейросети не заменят врача при оценке анализов

Лопатухин: нейросети могут ошибаться при расшифровке медицинских анализов

/Главная /Общество

Автор текста:

Маргарита Салахова

Сегодня 14:40

/Главная /Общество

Автор текста:

Маргарита Салахова

Сегодня 14:40

Нейросети могут объяснять медицинские термины простым языком, но доверять им интерпретацию результатов анализов не стоит. Причины — ошибки искусственного интеллекта, искажение оценки состояния здоровья и риск утечки персональных медицинских данных. Об этом «Газете.ру» рассказал генеральный директор IT-компании Борис Лопатухин.

По словам специалиста, нейросети способны сделать сложные медицинские формулировки понятнее и снизить тревогу пациента. Однако результаты анализов необходимо оценивать с учетом индивидуальных особенностей человека. Один и тот же показатель может иметь разное значение в зависимости от возраста, пола, заболеваний, принимаемых лекарств и даже питания накануне исследования.

Одной из главных проблем эксперт назвал галлюцинации искусственного интеллекта. Нейросеть может сослаться на несуществующее исследование, указать неверные референсные значения или придумать взаимосвязь между показателями. При этом ошибочный ответ может выглядеть столь же убедительно, как правильный, и человеку без медицинского образования бывает трудно заметить неточность.

Вторая опасность связана с искажением оценки результатов. ИИ может преувеличить серьезность отклонений или, наоборот, представить потенциально опасную ситуацию как незначительную. В первом случае это способно вызвать лишнюю тревогу, во втором — привести к тому, что человек отложит обращение к врачу.

Третий риск касается конфиденциальности. Результаты анализов относятся к чувствительной медицинской информации. Перед загрузкой документов в нейросеть Лопатухин рекомендует удалить фамилию, дату рождения, номер полиса и другие данные, позволяющие установить личность.

Эксперт также перечислил ситуации, в которых не следует полагаться на консультацию ИИ. К ним относятся выраженные отклонения показателей, сочетание плохих результатов с такими симптомами, как боль, температура, слабость, одышка или кровотечение, а также анализы детей и беременных женщин. Отдельного внимания требуют онкомаркеры: их интерпретация зависит от множества факторов.

«Большая языковая модель (ИИ) не анализирует кровь и не видит пациента. Она подбирает вероятное продолжение текста на основе данных, на которых обучалась», — пояснил Лопатухин.

При этом нейросети могут воспроизводить общие медицинские закономерности. Например, низкий ферритин часто связан с дефицитом железа, а высокий уровень ТТГ может указывать на снижение функции щитовидной железы. Однако такие связи сами по себе не позволяют установить диагноз конкретному человеку.

Чтобы использовать ИИ для получения справочной информации, специалист советует указывать референсные значения лаборатории и контекст: возраст, пол, имеющиеся заболевания, принимаемые препараты, беременность и условия сдачи анализов. Вместо просьбы поставить диагноз лучше попросить нейросеть объяснить возможные причины отклонений, предложить вопросы для обсуждения с врачом и рассказать, какие дополнительные исследования обычно назначают.