Компания OpenAI прекращает использование инструмента обнаружения ИИ вскоре после запуска

Меньше чем через шесть месяцев после того, как компания OpenAI представила инструмент обнаружения искусственного интеллекта с потенциалом помочь учителям и другим профессионалам распознавать работу, созданную ИИ, компания решила отозвать функцию.
OpenAI тихо закрыла инструмент на прошлой неделе, ссылаясь на «низкую точность», согласно обновлению оригинального поста в блоге компании, анонсирующего нововведение.
"Мы работаем над внедрением обратной связи и в настоящее время исследуем более эффективные методы проверки происхождения текста", - говорится в обновлении. Компания также заявила, что стремится помочь пользователям «понять, является ли аудио- или видеоконтент созданным ИИ».
Эта новость может возобновить опасения о том, оборудованы ли компании, стоящие за новой серией инструментов генеративного искусственного интеллекта, для создания защитных механизмов. Она также появляется во время подготовки педагогов к первому полному учебному году с публично доступными инструментами, такими как ChatGPT.
Внезапный всплеск популярности ChatGPT вызвал тревогу среди некоторых педагогов в конце прошлого года из-за возможности того, что он может значительно облегчить обман студентов при написании работ. Государственные школы в Нью-Йорке и Сиэтле запретили студентам и учителям использовать ChatGPT на сетях и устройствах округа. Некоторые педагоги очень быстро пересмотрели свои задания в ответ на ChatGPT, хотя оставалось неясным, насколько широко студенты использовали этот инструмент и каким образом он мог повлиять на обучение.
В такой обстановке OpenAI анонсировала инструмент обнаружения ИИ в феврале, чтобы пользователи могли проверить, написано ли эссе человеком или ИИ. Этот инструмент работал с англоязычным текстом, созданным ИИ, и был основан на системе машинного обучения, которая принимала ввод и относила его к нескольким категориям. После вставки текста, такого как школьное эссе, в новый инструмент, он предоставлял один из пяти возможных результатов, от "вероятно, создано ИИ" до "очень маловероятно".
Но даже в день запуска OpenAI признала, что инструмент "недостаточно совершенен" и результаты следует "воспринимать с некоторой осторожностью".
"Мы не рекомендуем полагаться исключительно на этот инструмент, потому что мы знаем, что иногда он может ошибаться - подобно использованию ИИ для какой-либо оценочной цели", - сказала Лама Ахмад, директор по политическим исследованиям в OpenAI, CNN в то время.
Хотя OpenAI может временно приостановить свой инструмент, на рынке есть альтернативы.
Другие компании, такие как Turnitin, также представили инструменты для обнаружения плагиата с использованием ИИ, которые могут помочь учителям определить, когда задания написаны с помощью таких инструментов. Тем временем, студент из Принстонского университета Эдвард Туан представил аналогичную функцию обнаружения ИИ, названную ZeroGPT.