OpenAI, похоже, сдерживает новый «высокоточный» инструмент, способный обнаруживать контент, генерируемый ChatGPT, из-за опасений, что он может быть подделан или заставить неанглоязычных пользователей избегать генерации текста с помощью моделей искусственного интеллекта.
Еще в мае компания упомянула в своем блоге, что работает над различными методами обнаружения контента, созданного специально ее продуктами. 4 августа Wall Street Journal опубликовал эксклюзивный отчет, в котором указывалось, что планы по выпуску инструментов застопорились из-за внутренних дебатов относительно последствий их выпуска.
После отчета WSJ OpenAI обновила свой майский пост в блоге, добавив новую информацию об инструментах обнаружения. Короче говоря, графика выпуска до сих пор нет, несмотря на предупреждение компании о том, что по крайней мере один инструмент для определения происхождения текста «высоко точен и даже эффективен против локального подделки».
К сожалению, компания утверждает, что все еще существуют методы, с помощью которых злоумышленники могут обойти обнаружение, и поэтому не желает публиковать информацию.
В другом отрывке компания, похоже, подразумевает, что не говорящие по-английски могут подвергнуться «стигматизации» против использования продуктов искусственного интеллекта для письма из-за эксплойта, связанного с переводом английского текста на другой язык, чтобы обойти обнаружение.
«Еще один важный риск, который мы взвешиваем, заключается в том, что наши исследования показывают, что метод текстовых водяных знаков может непропорционально повлиять на некоторые группы. Например, это может стигматизировать использование искусственного интеллекта в качестве полезного инструмента письма для тех, для кого английский язык не является родным».
Несмотря на то, что в настоящее время существует ряд продуктов и услуг, предназначенных для обнаружения контента, созданного искусственным интеллектом, насколько нам известно, ни один из них не продемонстрировал высокую степень точности при выполнении общих задач в рецензируемых исследованиях.
OpenAI станет первой системой собственной разработки, которая будет опираться на невидимые водяные знаки и собственные методы обнаружения контента, созданного специально с помощью моделей компании.
Связанный: Текущая бизнес-модель OpenAI «несостоятельна» — отчет
