Нейросеть помнит все: почему публичные чат-боты могут стать источником утечек

Загрузка документов и фраз в публичные чат-боты может обернуться безвозвратной передачей конфиденциальной информации третьим лицам. Как рассказал в беседе с RT эксперт Института кибербезопасности РТУ МИРЭА Игорь Котилевец, ИИ-сервисы сохраняют полученные данные на серверах провайдера и используют их для дообучения моделей, что создает риски утечек.

В нейросети категорически запрещено отправлять информацию, составляющую коммерческую тайну или персональные данные: исходный код продуктов, финансовые отчеты, стратегические презентации, внутреннюю переписку и даже черновики документов. Также нельзя доверять искусственному интеллекту анализ логов безопасности, схемы сетей, списки доступа и пароли, так как эти фрагменты могут помочь злоумышленникам подготовить атаку на компанию.

Отдельно специалист предостерег юристов и финансистов от поиска судебной практики и нормативных документов через чат-боты, поскольку нейросети склонны уверенно генерировать несуществующие законы и решения судов. Рядовым пользователям эксперт рекомендовал не загружать в сервисы сканы паспортов, дипломов и выписки по счетам. Единственным безопасным способом работы с конфиденциальной информацией названо развертывание собственной ИИ-модели внутри периметра компании или, как минимум, тщательное предварительное обезличивание документов.