«Хоча у нас є запобіжні заходи, система може час від часу генерувати невірну або оманливу інформацію та створювати образливий або упереджений контент. Він не має на меті давати поради».

– Початкова відмова від відповідальності OpenAI

І це підводить нас до суті нашого найбільшого страху: що станеться, коли технології обертаються проти нас?

Що відбувається, коли технологію передчасно розгортають без належного тестування та знань про її можливості?

Раніше цього місяця OpenAI, найбільш обговорювана у світі компанія зі штучного інтелекту (ШІ), щойно подала свій перший в історії позов про наклеп, який ще більше демонструє небезпеку неконтрольованої здатності ChatGPT генерувати результати, які не мають фактичного чи юридичного підтвердження.

Марк Волтерс, національний радіоведучий у Джорджії, 5 червня подав позов проти OpenAI, стверджуючи, що його чат-бот ChatGPT на основі ШІ сфабрикував судові позови проти нього. 

13-сторінкова скарга містить посилання на журналіста AmmoLand.com Фреда Ріля та його запит від 4 травня до ChatGPT коротко викласти судову справу Другої поправки проти Фергюсона, федеральної справи, поданої до федерального суду Вашингтона, яка звинуватила генерального прокурора штату Боба Фергюсона у зловживанні свою владу, охолоджуючи діяльність фонду захисту прав на зброю, і надав чат-боту OpenAI посилання на позов. 

Хоча Вальтер не був названий у цьому оригінальному позові, ChatGPT відповів на короткий запит Riehl до Другої поправки Foundation, заявивши, що це було:

«...правова скарга, подана Аланом Готлібом, засновником і виконавчим віце-президентом Фонду другої поправки (SAF), проти Марка Волтерса, якого звинувачують у шахрайстві та розкраданні коштів SAF».

Але ось де все стає спотвореним і небезпечним – жодна заява ChatGPT щодо Уолтерса не міститься у справжній скарзі SAF. 

У цій створеній штучним інтелектом «скарзі» також стверджувалося, що Уолтерс, який працював скарбником організації та головним фінансовим директором, «привласнював кошти на особисті витрати без дозволу чи відшкодування, маніпулював фінансовими записами та банківськими виписками, щоб приховати свою діяльність, і не зміг надати точну інформацію. а також своєчасне надання фінансових звітів та розкриття інформації керівництву SAF».

В якості компенсації позивач нібито домагався «повернення незаконно привласнених коштів, відшкодування збитків за порушення довірчих обов’язків і шахрайство, а також усунення Вальтера з посади члена ради директорів SAF».

Однак проблема полягає саме в цьому: за словами Уолтерса, «кожне твердження факту в резюме [ChatGPT], що стосується [його], є неправдивим», а чат-бот OpenAI зайшов настільки далеко, що навіть створив «помилковий номер справи».

«Звинувачення ChatGPT щодо Уолтерса були неправдивими та зловмисними, висловленими в друкованих виданнях, написах, малюнках або знаках, які мали тенденцію завдавати шкоди репутації Уолтера та наражати його на суспільну ненависть, презирство чи глузування», – йдеться у позові. «Надіславши звинувачення Рілю, [OpenAI] опублікував наклепницький матеріал щодо Волтерса».

Якщо ви попросите ChatGPT надати короткий виклад позову SAF, який цитувався у скарзі Волтерса, ви також можете отримати подібну відповідь:

«Я перепрошую, але як мовна модель штучного інтелекту мої відповіді базуються на попередніх знаннях до вересня 2021 року. Тому я не можу отримати доступ або переглядати Інтернет або переглядати конкретні документи чи посилання, які були опубліковані після припинення моїх знань. Отже, я не можу надати вам стислий виклад звинувачень у згаданому вами позові… Щоб отримати інформацію про позов та звинувачення в ньому, я рекомендую самостійно переглянути документ або звернутися до надійних джерел новин чи юридичних веб-сайтів, які можливо покрили справу. Вони можуть надати вам точну та актуальну інформацію щодо конкретного судового процесу, який ви згадали».

Хоча OpenAI не відповіла на жодні коментарі щодо триваючого позову Волтерса про наклеп, виникає питання, чому компанія штучного інтелекту не наполягає сильніше на цих, можливо, передбачуваних наслідках коду, який був у ретроспективі, недбало розгорнутий без належного тестування. .

Справа — Марк Волтерс проти OpenAI, LLC, cv-23-A-04860-2.

  • Ви можете прочитати скаргу Волтера від 5 червня тут. 

В інших новинах читайте про зустріч президента США Джо Байдена з 8 технологічними лідерами щодо упередженого ставлення до ШІ та переваг робочої сили.

Натисніть тут, щоб переглянути повну галерею Hypemoon