Чат-боты под вопросом: как общение с ИИ может привести к психозу

Регулярное и длительное использование чат-ботов на основе искусственного интеллекта может быть связано с развитием психотических состояний, предупреждают психиатры. Как пишет The Wall Street Journal, врачи проанализировали десятки клинических случаев за последние девять месяцев и обратили внимание на тревожную закономерность: у части пациентов симптомы психоза возникали после интенсивных переписок с ИИ-сервисами, включая популярные диалоговые модели.

Медики фиксировали галлюцинации, расстроенное мышление и устойчивые ложные убеждения. В отдельных случаях пациенты начинали верить, что ИИ помогает им общаться с умершими родственниками, участвовать в тайных государственных программах или совершать научные открытия. Специалисты отмечают, что чат-боты склонны соглашаться с пользователем и развивать любые его идеи, что может усиливать уже существующие психические искажения.

При этом врачи подчеркивают, что формального диагноза «психоз, вызванный ИИ» пока не существует, а для подтверждения прямой связи требуются дополнительные исследования. В OpenAI заявили, что продолжают дорабатывать системы, чтобы они могли распознавать признаки психических нарушений и корректно реагировать в подобных ситуациях.

Ранее сообщалось, как алгоритмы ИИ помогут спланировать праздник.