Нейросеть может уверенно ошибаться: как получать от ИИ более точные ответы

Точность ответа искусственного интеллекта во многом зависит от того, насколько конкретно пользователь сформулировал задачу, при этом полученную информацию необходимо перепроверять. Об этом RT рассказал председатель совета по противодействию технологическим правонарушениям КС НСБ России Игорь Бедеров.

Специалист пояснил, что ИИ представляет собой вероятностную модель, которая способна допускать ошибки и генерировать недостоверные сведения. Особенно внимательно следует проверять ответы по юридическим, медицинским, техническим и финансовым вопросам. Бедеров рекомендовал отдельным запросом просить ИИ проверить собственный результат и предоставить перечень источников, использованных при его подготовке.

Киберэксперт также посоветовал не передавать ИИ информацию, которую пользователь не готов раскрывать публично. К ней относятся ФИО, домашний адрес, телефон, паспортные данные, СНИЛС, ИНН, реквизиты банковских карт и счетов, фотографии документов, биометрия, сведения о других людях без их согласия, а также коммерческая и служебная информация, пароли и ключи доступа. По его словам, даже при заявленной конфиденциальности существует техническая возможность сохранения данных, их использования для обучения или попадания в утечку.

Бедеров напомнил, что 152-ФЗ предусматривает особые требования к обработке персональных данных. Зарубежные сервисы могут работать с информацией вне российской юрисдикции, что создает дополнительные риски, поэтому для чувствительных задач специалист рекомендовал использовать отечественные решения, действующие в правовом поле России.