Каждый четвертый навык ИИ-агента уязвим: что делать

При использовании ИИ-агентов необходимо контролировать всю цепочку агентской системы, чтобы избежать распространения вредоносного ПО и утечки данных, сообщил ТАСС со ссылкой на пресс-службу UserGate uFactor.

По словам владельца продукта по безопасности ИИ UserGate Светланы Газизовой, нужно отслеживать, к каким данным обращается агент, какие инструменты вызывает и от чьего имени действует. Для чувствительных операций (отправка сообщений, изменение или удаление данных) должно быть предусмотрено отдельное подтверждение или запрет.

Специалисты также отмечают, что более четверти навыков (skills) ИИ-агентов имеют потенциальные уязвимости. Каждый навык перед использованием необходимо проверять через специализированные сервисы, а для агента выделять отдельную учетную запись, ограничивать доступ к файлам и сети, а секретные данные хранить в изолированных хранилищах. Ранее в UserGate сообщали, что ИИ в работе используют около 60% российских организаций.