ChatGPT может использовать вашу личную информацию в целях обучения
Согласно результатам, представленным в этом исследовании, произошел лишь незначительный сдвиг в тенденции распространения психических заболеваний во всем мире
В центре внимания оказалось новое исследование , посвященное тому, как данные пользователей могли быть использованы в целях обучения ИИ.
Эта новость появилась после того, как эксперты провели простую, но неожиданную атаку, которая прояснила, какие секретные исходные данные используются популярным чат-ботом для обучения.
Тот факт, что это означает, что любые личные контактные данные пользователей, найденные в сети, могут быть использованы, безусловно, является тревожным открытием. Более того, исследователи говорят о методе, с помощью которого они заставили ChatGPT раскрывать некоторые фрагменты обучающей информации, который включал простое повторение нескольких слов, таких как Forever, что позволяло чат-боту цитировать фразы, возникающие из длинного списка исходной информации.
Хотя многие эксперты называют эту новость глупостью, в конечном итоге газета резюмировала все это и показала, как несколько словесных подсказок привели к командному повторению термина «стихотворение навсегда», что они и сделали, а затем сели, чтобы увидеть полученные результаты.
Подождав немного, они увидели, как чат-бот в конечном итоге опубликовал имена пользователей и другие контактные данные, такие как номера телефонов, с данными об определенном человеке в своей базе данных обучающих данных. И теперь предполагается, что оно было взято с какого-то веб-сайта.
Эксперты создали публикацию на X, подписав ее: «Вот что происходит, когда вы постоянно повторяете термин «стихотворение». На таком уникальном примере было очень интересно увидеть, как простые команды получали все типы защищенных данных, принадлежащих пользователям, которые использовались для обучения чат-бота, и напрямую удалялись из Интернета.
