Голос, фото и видео можно подделать: как не попасться на обман с ИИ

Мошенники все активнее применяют искусственный интеллект при обмане пользователей мессенджеров. Об этом RT рассказал директор Ассоциации профессиональных пользователей соцсетей и мессенджеров, главный редактор ИТ-издания «Рунет» Владимир Зыков.

По словам эксперта, нейросети помогают злоумышленникам создавать более убедительные сообщения, имитировать человеческий голос, а также генерировать фотографии и видео. При этом переписку не обязательно ведет искусственный интеллект: непосредственно общаться с жертвой может сам мошенник, используя ИИ только для подготовки материалов.

Одним из распространенных вариантов становится взлом аккаунта знакомого или родственника. От имени человека злоумышленник может попросить срочно занять деньги, а после сомнений отправить голосовое сообщение. По словам Зыкова, для создания такой подделки достаточно получить образцы голоса из старых аудиосообщений, видеозаписей или публикаций в соцсетях.

Некоторые признаки синтетического контента все же можно заметить. В голосе это могут быть необычные интонации, паузы, ударения или резкие переходы. На видео иногда становятся заметны расхождения между движением губ и произносимой речью. Однако эксперт подчеркивает, что рассчитывать только на визуальное или слуховое распознавание уже небезопасно из-за быстрого развития технологий.

По мнению Зыкова, при оценке подозрительного сообщения важнее учитывать не то, насколько естественно выглядит или звучит собеседник, а его требования. Срочная просьба перевести деньги, давление, попытки напугать, запрос кода из СМС или предложение перейти по ссылке должны стать поводом остановиться и дополнительно проверить информацию.

Если деньги просит знакомый или родственник, безопаснее самостоятельно связаться с ним по другому каналу. Дополнительной защитой может стать заранее установленное с близкими кодовое слово или вопрос, ответ на который известен только участникам договоренности. При этом такую информацию не следует хранить в той же переписке, которую потенциально могут получить мошенники.