Искусственный интеллект (ИИ) вошел в современную жизнь, особенно в создании письменного контента. Хотя это все развлечения и игры, неточность в обнаружении контента ИИ вызывает тревогу. Что еще хуже, детекторы ИИ помечают написанный человеком контент как сгенерированный GPT; Тематическое исследование Конституции США.
Читайте также: Пола Грэма из Y Combinator раскритиковали за утверждение, что тексты с «Delve» написаны искусственным интеллектом
Конституция Соединенных Штатов была написана в 1787 году, ратифицирована в 1788 году и действует с 1789 года. Это самая долгоживущая письменная хартия правительства в мире. Конституция появилась примерно за столетие до того, как был изобретен первый автомобиль. Тем не менее, детектор ИИ показал, что 97,97% создано ИИ.
Детекторы искусственного интеллекта считают Конституцию США бесчеловечной
В 2023 году увеличилось количество письменного контента, основанного на искусственном интеллекте. Вскоре после этого разработчики рынка воспользовались возможностью создать детекторы, которые информируют ИИ о процентном соотношении контента. Это должно было быть хорошим достижением, но это не так.
Детектор ИИ пометил Конституцию США как контент ИИ. Процент? Закрытие 97,97%. Термин «искусственный интеллект» был придуман и стал популярным во время зарождения ИИ между 1950 и 1956 годами. Так как же ИИ смог написать документ, который на 163 года старше своего изобретения?
Источник: Zerogpt.com
В 1950 году Алан Тьюринг опубликовал журнальную статью под названием «Компьютерная техника и интеллект», в которой предложил тест машинного интеллекта под названием «Имитационная игра». Эта статья положила начало миру, в котором мы живем сегодня.
В 1952 году учёный-компьютерщик по имени Артур Сэмюэл разработал программу для игры в шашки и стал первым, кто научился игре самостоятельно. Вскоре после этого, в 1955 году, Джон Маккарти провел в Дартмуте семинар по «искусственному интеллекту», который был первым использованием этого слова.
Детекторы искусственного интеллекта имеют ограничения
Детекторы ИИ имеют ограничения, поскольку текст, сгенерированный ИИ, имитирует человеческое письмо. Эти детекторы были обучены теми же людьми, которые научили машины писать. Итак, как будут работать их детекторы искусственного интеллекта и насколько они точны? Другой детектор искусственного интеллекта набрал 1% содержания искусственного интеллекта в Конституции США. Откуда взялся 1%?
Источник: gptzero.me
Что ж, вот в чем несоответствие: некоторые детекторы ИИ обращают внимание на определенные слова, такие как «копать, гобелен, использовать, многочисленные и т. д.». которые обычно используются ИИ, но редки для американцев.
Однако для некоторых людей из стран с британской колониальной историей эти слова обычно используются как в устной, так и в письменной речи.
В прошлом месяце соучредитель Y Combinator Пол Грэм подвергся критике из-за теории атрибуции текста ChatGPT, которую он выдвинул на X (ранее Twitter). Грэм опубликовал холодное электронное письмо, которое он получил от кого-то с предложением по проекту, который, как он пришел к выводу, был написанием искусственного интеллекта, поскольку в нем содержалось слово «копаться».
Один пользователь X сказал: «Люди, которые выучили английский в странах с британским колониальным прошлым – именно так мы выучили английский […] «Delve» – это обычное слово, которое мы говорим». Другой сказал, что это американская проблема.
Некоторые страны и люди до сих пор используют то, что я бы назвал «литературным английским языком». К сожалению, американский словарный запас в основном основан на разговорных выражениях (то, что вы называете сленгом) и современных американских идиомах, до такой степени, что изощренное использование…
– Отдел исследований Африки (@MightiJamie), 10 апреля 2024 г.
Возникает вопрос: должны ли детекторы искусственного интеллекта и генераторы контента быть ориентированы на региональный английский язык? Или со всеми этими пишущими инструментами и детекторами следует покончить?
Детекторы искусственного интеллекта неточны
Детекторы искусственного интеллекта полагаются на противоречивые лингвистические особенности. Человеческий язык по своей природе изменчив и имеет широкий спектр стилей, диалектов и идиом. Текст, сгенерированный ИИ, может подпадать под эти варианты, что затрудняет точность детекторов.
Около 20% текстов, сгенерированных ИИ, проходят через эти системы обнаружения незамеченными, что снижает надежность детекторов ИИ. Аналогичным образом, около 25% написанного человеком текста ошибочно помечается как искусственный интеллект.
Один пользователь Quora написал: «Детектор искусственного интеллекта определяет мою работу как 100% созданную искусственным интеллектом. Потому что я по незнанию использовал его как инструмент для редактирования и грамматики по просьбе научного руководителя. Слова, концепция и жизненный опыт в уже опубликованной статье — мои собственные. Что мне делать?"
Многие выразили разочарование по этому поводу. Недавно в новостях, опубликованных Cryptopolitan, генератор искусственного интеллекта отметил слова, сказанные Дональдом Трампом. Он сказал: «Я очень позитивен и открыт для криптовалютных компаний и всего, что связано с этой новой и растущей индустрией». Как ИИ добавляется к произносимым словам? Это в сознании человека? В выраженных мыслях?
Другой контент был от Дэвида Бэйли: «Мы мобилизуемся, чтобы защитить себя. Мы голосуем не за Трампа как такового, мы голосуем против Байдена. В этом виноват только Байден. «
Читайте также: Крипто-кампания Трампа – все, что вам нужно знать
В 2023 году OpenAI опубликовала советы для преподавателей в рекламном блоге, в котором показано, как некоторые учителя используют ChatGPT в качестве учебного пособия.
В разделе FAQ «Работают ли ИИ-детекторы?» OpenAI написала: «Короче говоря, нет. Хотя некоторые (включая OpenAI) выпустили инструменты, предназначенные для обнаружения контента, созданного ИИ, ни один из них не доказал, что надежно различает контент, созданный ИИ и созданный человеком». Проблема отличия человеческого контента от контента ИИ остается. Вопрос в том, что делать дальше?
Криптополитический репортаж Флоренс Мухаи
