Сотрудник загрузил договор в нейросеть: какие риски возникают у компании

Старостин: компании должны контролировать использование сотрудниками нейросетей

/Главная /Экономика

Автор текста:

Мария Толстикова

Сегодня 08:12

/Главная /Экономика

Автор текста:

Мария Толстикова

Сегодня 08:12

Компании стоит пересмотреть правила информационной безопасности из-за распространения так называемого «теневого ИИ» — нейросетей, которые сотрудники используют без согласования с работодателем. Такие сервисы могут получить доступ к рабочим документам и другой закрытой информации. Об этом ТАСС рассказал заместитель генерального директора Российского общества «Знание» по операционной деятельности Антон Старостин.

По словам эксперта, компания не всегда знает, какими сервисами пользуются сотрудники. Если нужного инструмента нет в корпоративном списке, работник может самостоятельно найти нейросеть в интернете и использовать ее для рабочих задач. При этом организация не контролирует, какие данные передаются в такой сервис и что он может с ними делать.

Например, сотрудник может загрузить договор в публичную нейросеть, чтобы быстро получить его краткое содержание. Вместе с документом сервис получит имена клиентов, цены и условия сделки. Работник сэкономит время, но компания при этом может потерять контроль над важной информацией.

Старостин считает, что компаниям также стоит заранее подготовить инструкцию на случай ошибки. Если сотрудник случайно отправил конфиденциальный документ в неразрешенную нейросеть, он должен знать, кому сообщить об инциденте и какие данные сохранить.

При этом эксперт считает главным способом защиты запрет на использование публичных версий ИИ для рабочих задач. Он также предлагает регулярно обучать сотрудников и разбирать типичные ситуации, связанные с нейросетями.

Отдельно Старостин обратил внимание на обезличивание документов. По его словам, простого удаления имени недостаточно: человека или организацию иногда можно определить по другим косвенным данным.

В компании, по мнению эксперта, должен быть список разрешенных ИИ-сервисов с понятными правилами использования. Одни инструменты можно применять для открытой информации, другие — для закрытых документов. Например, для этого подходят локальные ИИ-решения, работающие в защищенном контуре компании.

Перед добавлением сервиса в корпоративный список специалисты должны выяснить, где хранятся загруженные файлы, кто может получить к ним доступ и использует ли поставщик эти данные для обучения своих моделей.