Deivids Švarcs, Ripple galvenais tehnoloģiju vadītājs, nesen savā sociālo mediju kontā ievietoja vīrusu Reddit ierakstu, kurā ir stāstīts par ģimeni, kura tika ievietota slimnīcā pēc indīgu sēņu lietošanas, ko viņi identificēja, izmantojot AI ģenerētu grāmatu.
Ja šis ziņojums ir patiess, tā vēsture atkārtojas.https://t.co/UEVENXO72E https://t.co/sjQgkATFqz
— Deivids "JoelKatz" Švarcs (@JoelKatz) 2024. gada 17. augusts
Saskaņā ar Reddit ziņu ģimene izmantoja sēņu identifikācijas grāmatu, ko viņi iegādājās populārā veikalā. Ziņojumā bija teikts, ka grāmatā ir sniegti AI izveidoti attēli un teksts, lai identificētu sēnes, taču tās visas bija indīgas. Ģimene patērēja sēnes, izmantojot AI sarakstīto grāmatu, un visas tika ievietotas slimnīcā, kas ir liela jautājuma zīme AI saturam.
Ripple CTO velk paralēles ar vēsturisku tiesas prāvu
Ziņojumā arī teikts, ka grāmatā ir ne tikai AI attēli, bet arī Chatbot atbildes grāmatas tekstā, kas liek domāt, ka tajā nav neviena cilvēka. Lai gan mazumtirgotājs acīmredzot ir nodrošinājis atmaksu par grāmatu, šī problēma ir likusi cilvēkiem apšaubīt, vai pārdošanā varētu būt vairāk zemas kvalitātes grāmatu, kuras sarakstījis AI.
Savā ierakstā sociālajos medijos Švarcs šo notikumu salīdzināja ar labi zināmu tiesas prāvu, kas notika 90. gadu sākumā. Ripple izpilddirektors citēja Winter v. G.P. Putnam’s Sons, 1991. gada Apelācijas tiesas lieta. Lieta norāda uz diviem jauniem pieaugušajiem, kuri nolēma iegādāties grāmatu, ko viņi nosauca par "Sēņu enciklopēdiju", lai izmantotu atsauci.
Pāris bija spiests vērsties tiesā pret uzņēmumu P. Putnam’s Sons saistībā ar atbildību par produktu, nolaidību un nepatiesu pārstāvību. Lai gan grāmatā sniegtās nepareizās informācijas dēļ abi sēņotāji gandrīz zaudēja dzīvību, tiesa lēma par labu izdevējam.
Identifikācijas ceļveži rūpīgi pārbauda AI izmantošanu
Švarca šī gadījuma izmantošana parāda, ka AI izmantošana satura veidošanā nav pozitīva lieta un tai ir juridiskas sekas. Joprojām tiek apspriests jautājums par to, vai AI radītajām grāmatām var piemērot līdzīgas juridiskas procedūras, jo arvien vairāk satura tiek ražots ar AI palīdzību.
Švarcs uzrakstīja X ziņu par Quora, populāru jautājumu un atbilžu vietni. Šī nav pirmā reize, kad Ripple CTO kritizē šo vietni un to, kā tajā tiek izmantots AI. Savā ziņojumā Švarcs uzsvēra dažas problēmas saistībā ar Quora AI radītajiem jautājumiem, kurus viņš sauca par “AI radītu nolaidību”.