Часто задаете вопросы ИИ? Вот что он может узнать о человеке из переписки

За месяц регулярной переписки нейросеть может составить подробное представление о пользователе, в том числе вывести сведения, которыми тот не делился напрямую. Об этом RT рассказал заведующий Лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев.

По словам эксперта, из запросов можно предположить профессию, уровень знаний, интересы, распорядок дня, наличие детей, финансовые ограничения и темы, которые особенно беспокоят человека. Манера общения также помогает системе оценивать, какие аргументы кажутся пользователю убедительными и склонен ли он искать подтверждение собственному мнению.

Как пояснил Силаев, накопленный контекст позволяет ИИ подстраивать ответы под человека: объяснять сложные темы проще, учитывать уровень подготовки и не заставлять пользователя повторно описывать ситуацию. Однако такая персонализация не гарантирует точности. Система может подобрать убедительные формулировки, но при этом опираться на неполную информацию и невольно укреплять уже сложившиеся взгляды.

Проверить влияние контекста можно, задав один и тот же вопрос сначала в привычном диалоге, а затем в новом чате. Если ответы различаются, стоит попросить ИИ перечислить известные ему сведения о пользователе и предположения, которые могли повлиять на ответ. По словам специалиста, это не раскрывает внутренний механизм работы системы, но помогает выявить часть используемого контекста.

Силаев также рекомендовал проверять настройки памяти и выяснять, какие сведения сервис сохраняет между разговорами: новый чат не всегда означает полный сброс контекста.

Эксперт подчеркнул, что удобство персонализированных ответов нельзя путать с их достоверностью. Если речь идет о деньгах, здоровье, праве, работе или других серьезных решениях, информацию следует проверять независимо, даже когда она совпадает с ожиданиями пользователя.