Создатель ChatGPT закрывает инструмент идентификации ИИ из-за «низкой точности»

Компания OpenAI прекращает использование инструмента обнаружения ИИ вскоре после запуска
Меньше чем через шесть месяцев после того, как компания OpenAI представила инструмент обнаружения искусственного интеллекта с потенциалом помочь учителям и другим профессионалам распознавать работу, созданную ИИ, компания решила отозвать функцию.
OpenAI тихо закрыла инструмент на прошлой неделе, ссылаясь на «низкую точность», согласно обновлению оригинального поста в блоге компании, анонсирующего нововведение.
"Мы работаем над внедрением обратной связи и в настоящее время исследуем более эффективные методы проверки происхождения текста", - говорится в обновлении. Компания также заявила, что стремится помочь пользователям «понять, является ли аудио- или видеоконтент созданным ИИ».
Эта новость может возобновить опасения о том, оборудованы ли компании, стоящие за новой серией инструментов генеративного искусственного интеллекта, для создания защитных механизмов. Она также появляется во время подготовки педагогов к первому полному учебному году с публично доступными инструментами, такими как ChatGPT.
Внезапный всплеск популярности ChatGPT вызвал тревогу среди некоторых педагогов в конце прошлого года из-за возможности того, что он может значительно облегчить обман студентов при написании работ. Государственные школы в Нью-Йорке и Сиэтле запретили студентам и учителям использовать ChatGPT на сетях и устройствах округа. Некоторые педагоги очень быстро пересмотрели свои задания в ответ на ChatGPT, хотя оставалось неясным, насколько широко студенты использовали этот инструмент и каким образом он мог повлиять на обучение.
В такой обстановке OpenAI анонсировала инструмент обнаружения ИИ в феврале, чтобы пользователи могли проверить, написано ли эссе человеком или ИИ. Этот инструмент работал с англоязычным текстом, созданным ИИ, и был основан на системе машинного обучения, которая принимала ввод и относила его к нескольким категориям. После вставки текста, такого как школьное эссе, в новый инструмент, он предоставлял один из пяти возможных результатов, от "вероятно, создано ИИ" до "очень маловероятно".
Но даже в день запуска OpenAI признала, что инструмент "недостаточно совершенен" и результаты следует "воспринимать с некоторой осторожностью".
"Мы не рекомендуем полагаться исключительно на этот инструмент, потому что мы знаем, что иногда он может ошибаться - подобно использованию ИИ для какой-либо оценочной цели", - сказала Лама Ахмад, директор по политическим исследованиям в OpenAI, CNN в то время.
Хотя OpenAI может временно приостановить свой инструмент, на рынке есть альтернативы.
Другие компании, такие как Turnitin, также представили инструменты для обнаружения плагиата с использованием ИИ, которые могут помочь учителям определить, когда задания написаны с помощью таких инструментов. Тем временем, студент из Принстонского университета Эдвард Туан представил аналогичную функцию обнаружения ИИ, названную ZeroGPT.
Меньше чем через шесть месяцев после того, как компания OpenAI представила инструмент обнаружения искусственного интеллекта с потенциалом помочь учителям и другим профессионалам распознавать работу, созданную ИИ, компания решила отозвать функцию.
OpenAI тихо закрыла инструмент на прошлой неделе, ссылаясь на «низкую точность», согласно обновлению оригинального поста в блоге компании, анонсирующего нововведение.
"Мы работаем над внедрением обратной связи и в настоящее время исследуем более эффективные методы проверки происхождения текста", - говорится в обновлении. Компания также заявила, что стремится помочь пользователям «понять, является ли аудио- или видеоконтент созданным ИИ».
Эта новость может возобновить опасения о том, оборудованы ли компании, стоящие за новой серией инструментов генеративного искусственного интеллекта, для создания защитных механизмов. Она также появляется во время подготовки педагогов к первому полному учебному году с публично доступными инструментами, такими как ChatGPT.
Внезапный всплеск популярности ChatGPT вызвал тревогу среди некоторых педагогов в конце прошлого года из-за возможности того, что он может значительно облегчить обман студентов при написании работ. Государственные школы в Нью-Йорке и Сиэтле запретили студентам и учителям использовать ChatGPT на сетях и устройствах округа. Некоторые педагоги очень быстро пересмотрели свои задания в ответ на ChatGPT, хотя оставалось неясным, насколько широко студенты использовали этот инструмент и каким образом он мог повлиять на обучение.
В такой обстановке OpenAI анонсировала инструмент обнаружения ИИ в феврале, чтобы пользователи могли проверить, написано ли эссе человеком или ИИ. Этот инструмент работал с англоязычным текстом, созданным ИИ, и был основан на системе машинного обучения, которая принимала ввод и относила его к нескольким категориям. После вставки текста, такого как школьное эссе, в новый инструмент, он предоставлял один из пяти возможных результатов, от "вероятно, создано ИИ" до "очень маловероятно".
Но даже в день запуска OpenAI признала, что инструмент "недостаточно совершенен" и результаты следует "воспринимать с некоторой осторожностью".
"Мы не рекомендуем полагаться исключительно на этот инструмент, потому что мы знаем, что иногда он может ошибаться - подобно использованию ИИ для какой-либо оценочной цели", - сказала Лама Ахмад, директор по политическим исследованиям в OpenAI, CNN в то время.
Хотя OpenAI может временно приостановить свой инструмент, на рынке есть альтернативы.
Другие компании, такие как Turnitin, также представили инструменты для обнаружения плагиата с использованием ИИ, которые могут помочь учителям определить, когда задания написаны с помощью таких инструментов. Тем временем, студент из Принстонского университета Эдвард Туан представил аналогичную функцию обнаружения ИИ, названную ZeroGPT.