«Хотя у нас есть меры безопасности, система может иногда генерировать неверную или вводящую в заблуждение информацию и создавать оскорбительный или предвзятый контент. Оно не предназначено для того, чтобы давать советы».
- Вступительное заявление об отказе от ответственности OpenAI
И это подводит нас к сути нашего самого большого страха: что произойдет, когда технологии обернутся против нас?
Что происходит, когда технология преждевременно внедряется без надлежащего тестирования и знания ее возможностей?
Ранее в этом месяце OpenAI, самая обсуждаемая в мире компания по искусственному интеллекту (ИИ), только что получила первый в истории иск о клевете, который еще раз демонстрирует опасность бесконтрольной способности ChatGPT генерировать результаты, не имеющие ни фактического, ни юридического обоснования.
Марк Уолтерс, радиоведущий национального уровня в Джорджии, 5 июня подал иск против OpenAI, утверждая, что ее чат-бот ChatGPT, работающий на базе искусственного интеллекта, сфабриковал против него судебные иски.
В 13-страничной жалобе упоминается журналист AmmoLand.com Фред Риль и его запрос в ChatGPT от 4 мая обобщить судебное дело Фонда Второй поправки против Фергюсона, федерального дела, поданного в федеральный суд Вашингтона, который обвинил генерального прокурора штата Боба Фергюсона в злоупотреблениях. свою власть, ограничив деятельность фонда по защите прав на оружие, и предоставил чат-боту OpenAI ссылку на иск.
Хотя имя Уолтера не было упомянуто в первоначальном иске, ChatGPT ответил на краткий запрос Риля к Фонду Второй поправки, заявив, что это было:
«...юридическая жалоба, поданная Аланом Готлибом, основателем и исполнительным вице-президентом Фонда Второй поправки (SAF), против Марка Уолтерса, который обвиняется в мошенничестве и растрате средств SAF».
Но здесь все становится искаженным и опасным: ни одно из заявлений ChatGPT относительно Уолтерса не содержится в настоящей жалобе SAF.
В этой «жалобе», сгенерированной ИИ, также утверждалось, что Уолтерс, который занимал должность казначея и финансового директора организации, «неправомерно присваивал средства на личные расходы без разрешения или возмещения, манипулировал финансовыми отчетами и банковскими выписками, чтобы скрыть свою деятельность, и не смог предоставить точные данные». и своевременные финансовые отчеты и раскрытие информации руководству СВС».
В качестве компенсации истец якобы добивался «возврата незаконно присвоенных средств, возмещения ущерба за нарушение фидуциарных обязанностей и мошенничества, а также отстранения Уолтера от должности члена совета директоров SAF».
Однако в этом и заключается проблема: по словам Уолтерса, «[каждое] изложение фактов в резюме [ChatGPT], относящееся к [ему], является ложным», а чат-бот OpenAI зашел так далеко, что даже создал «ошибочный номер дела».
«Обвинения ChatGPT в отношении Уолтерса были ложными и злонамеренными, выраженными в печати, письменной форме, изображениях или знаках, которые имели тенденцию наносить ущерб репутации Уолтера и подвергать его общественной ненависти, презрению или насмешкам», — говорится в иске. «Отправив обвинения Рилу, [OpenAI] опубликовала клеветнический материал в отношении Уолтерса».
Если вы попросите ChatGPT предоставить краткое изложение иска SAF, упомянутого в жалобе Уолтерса, вы также можете получить ответ, подобный этому:
«Прошу прощения, но, поскольку я использую языковую модель искусственного интеллекта, мои ответы основаны на уже существующих знаниях до сентября 2021 года. Поэтому я не могу получить доступ к Интернету или просматривать его, а также просматривать конкретные документы или ссылки, которые были опубликованы после прекращения моих знаний. Следовательно, я не могу предоставить вам краткое изложение обвинений в упомянутом вами иске… [чтобы] получить информацию об иске и связанных с ним обвинениях, я рекомендую просмотреть документ самостоятельно или обратиться к проверенным источникам новостей или юридическим веб-сайтам, которые возможно, прикрыли это дело. Они могут предоставить вам точную и актуальную информацию относительно конкретного иска, который вы упомянули».
Хотя OpenAI не ответила ни на какие комментарии по продолжающемуся иску Уолтерса о клевете, возникает вопрос, почему компания ИИ не уделяет больше внимания этим, возможно, предсказуемым последствиям кода, который был ретроспективно развернут и небрежно развернут без надлежащего тестирования. .
Дело Марк Уолтерс против OpenAI, LLC, cv-23-A-04860-2.
Вы можете прочитать жалобу Уолтера от 5 июня здесь.
Из других новостей читайте о встрече президента США Джо Байдена с восемью технологическими лидерами по вопросам предвзятости в области ИИ и преимуществ рабочей силы.
Нажмите здесь, чтобы просмотреть полную галерею на Hypemoon