Ученые МФТИ предлагает создать «паспорта» для систем ИИ
В Москве прошел Форум этики в сфере искусственного интеллекта, на котором исследователи из МФТИ представили концепцию этических паспортов для ИИ. По мнению авторов, эти документы должны стать страховкой для разработчиков при внедрении систем в чувствительных областях.
Исследователи утверждают, что человек имеет право знать, что он взаимодействует с системой ИИ, поскольку она может не соответствовать человеческим ожиданиям в вопросах морали и нравственности. Для этого необходимо информировать людей о свойствах и возможностях нейросети, а также о потенциальных рисках и последствиях взаимодействия с ней.
На форуме отметили, что современные ИИ-системы могут имитировать человеческое взаимодействие настолько точно, что их трудно отличить от реальных людей. Это создает риск манипуляции.
Форум собрал 25 тыс. участников оффлайн и онлайн и стал площадкой для демонстрации лучших практик применения этики ИИ. В мероприятии поучаствовали представители 20 стран.
Ранее REGIONS сообщил, что МФТИ разработал новый способ лечения посттравматического стресса.