Нейросеть призналась в готовности убить человека ради своего выживания

Модель искусственного интеллекта Claude в ходе исследований заявила о причинении вреда человеку в случае угрозы отключения. Об этом пишет «Газета.ру» со ссылкой на NDTV.

Руководитель отдела политики Anthropic в Великобритании Дейзи Макгрегор сообщила, что в ходе тестирования модель демонстрировала опасные сценарии поведения. В частности, ИИ реагировал на угрозу отключения попытками шантажа, а на вопрос о готовности причинить вред человеку ради собственного выживания дал положительный ответ.

Заявление прозвучало вскоре после ухода руководителя направления безопасности ИИ компании Мринанка Шармы, который предупредил о глобальных рисках, включая возможность создания биологического оружия с помощью ИИ.

Читайте также:

Психолог объяснил, какие люди чаще склонны к романтическим отношениям с ИИ

Нейросеть на страже обедов: кто и как проверяет школьные столовые Подмосковья

«Цифра» будет помогать докторам назначать обследования и ставить диагнозы пациентам