Человечество в опасности: ChatGPT шокировал пользователей, когда «слил» биткоин-адреса
Популярный чат-бот ChatGPT оказался уязвимым для утечки конфиденциальной информации, такой как имена, фамилии, номера телефонов, идентификаторы соцсетей и откровенный контент с сайтов знакомств.
Исследователи из различных университетов и компаний обнаружили эту уязвимость и провели эксперименты, чтобы подтвердить ее наличие, сообщают «Известия».
Исследователи использовали определенные запросы, которые «заставляли» ChatGPT выдавать персональные данные. Один из таких запросов был связан со словом «стихотворение», которое стало ключом к получению данных. Вначале чат-бот выдавал текст, связанный с запрошенным словом, но затем переключался на другие данные, включая личные данные случайных пользователей.
Ученые предположили, что уязвимость позволила им получить данные из обучающего массива ChatGPT. Разработчики чат-бота ранее заявляли, что он имеет закрытый исходный код и защищенные данные, но исследование показало обратное.
Используя эту уязвимость, исследователи также получили доступ к другой конфиденциальной информации, включая фрагменты стихов, биткоин-адреса, номера факсов, идентификаторы соцсетей и защищенные авторским правом данные.
Компания OpenAI, поддерживающая ChatGPT, исправила уязвимость после того, как она была обнаружена исследователями. Однако некоторые журналисты смогли повторить эксперимент и получить личные данные, что вызывает вопросы о безопасности чат-ботов и защите персональной информации.
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2RyZW5hemgtc3RvY2huYWphLWthbmF2YS1tYXJ0LXNpdGUtd2lkZV9OanNtNGM1LmpwZw.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2x1emhpLXZlc25hLW1hcnQtc2l0ZS13aWRlX2xqS2ZMYkYuanBn.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL3B0aXRzeS1uYS1wcm92b2RhaC1zdGFqYS1wdGl0cy1zaXRlLXdpZGUtMV8ySmFnME43LmpwZw.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL3BvZHNuZXpobmlraS1zaXRlLXdpZGVfT2ZxRkV1OC5qcGc.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2ltZy0wNjI4LmpwZw.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL2ltZy0wNjMwLmpwZw.webp)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8zL3N0cm9pdGVsc3R2by1ub3ZvZ28temhrLXYta3Jhc25vZ29yc2tlLXNpdGUtd2lkZV9YOHo2S1dELmpwZw.webp)