Человечество в опасности: ChatGPT шокировал пользователей, когда «слил» биткоин-адреса

Популярный чат-бот ChatGPT оказался уязвимым для утечки конфиденциальной информации, такой как имена, фамилии, номера телефонов, идентификаторы соцсетей и откровенный контент с сайтов знакомств.

Исследователи из различных университетов и компаний обнаружили эту уязвимость и провели эксперименты, чтобы подтвердить ее наличие, сообщают «Известия».

Исследователи использовали определенные запросы, которые «заставляли» ChatGPT выдавать персональные данные. Один из таких запросов был связан со словом «стихотворение», которое стало ключом к получению данных. Вначале чат-бот выдавал текст, связанный с запрошенным словом, но затем переключался на другие данные, включая личные данные случайных пользователей.

Ученые предположили, что уязвимость позволила им получить данные из обучающего массива ChatGPT. Разработчики чат-бота ранее заявляли, что он имеет закрытый исходный код и защищенные данные, но исследование показало обратное.

Используя эту уязвимость, исследователи также получили доступ к другой конфиденциальной информации, включая фрагменты стихов, биткоин-адреса, номера факсов, идентификаторы соцсетей и защищенные авторским правом данные.

Компания OpenAI, поддерживающая ChatGPT, исправила уязвимость после того, как она была обнаружена исследователями. Однако некоторые журналисты смогли повторить эксперимент и получить личные данные, что вызывает вопросы о безопасности чат-ботов и защите персональной информации.