Картинка — / Фото: REGIONS/Полина Крачун

Киберэксперт объяснил, когда нужно проверять ответы искусственного интеллекта

Киберэксперт Бедеров: ответы ИИ о здоровье и финансах нужно проверять

/Главная /Безопасность

Автор текста:

Маргарита Салахова

Сегодня 15:19

/Главная /Безопасность

Автор текста:

Маргарита Салахова

Сегодня 15:19

Ответы искусственного интеллекта необходимо проверять, особенно если речь идет о здоровье, финансах, праве и безопасности. При этом глубина проверки должна зависеть от возможных последствий ошибки, рассказал RT председатель совета по противодействию технологическим правонарушениям КС НСБ России Игорь Бедеров.

«Если речь о бытовом вопросе, достаточно здравого смысла. Если ответ влияет на деньги, здоровье, право, безопасность, репутацию, публикацию или государственное решение — проверка обязательна. Генеративная модель лишь предсказывает правдоподобный текст и может уверенно ошибаться», — объяснил эксперт.

По словам Бедерова, просьба к нейросети проверить собственный ответ может помочь обнаружить некоторые ошибки и противоречия, но не гарантирует достоверности. Модель способна повторить ложный источник или представить ошибочный вывод как убедительный.

«Правильная схема предполагает, что сначала мы классифицируем риск, затем требуем от ИИ источники, даты, цитаты и границы применимости, после чего ключевые факты сверяем по первичным источникам», — подчеркнул специалист.

В качестве примеров он назвал официальные реестры, нормативные документы, судебные акты, технические логи, метаданные и публикации.