David Schwartz, dyrektor ds. technologii w Ripple, niedawno opublikował na swoim koncie w mediach społecznościowych w serwisie Reddit wpis, który stał się viralem. Opowiada on historię rodziny, którą przyjęto do szpitala po spożyciu trujących grzybów, zidentyfikowanych przez nich za pomocą książki wygenerowanej przez sztuczną inteligencję.

Jeśli doniesienia okażą się prawdziwe, historia się powtórzy.https://t.co/UEVENXO72E https://t.co/sjQgkATFqz

— David „JoelKatz” Schwartz (@JoelKatz) 17 sierpnia 2024 r.

Według posta na Reddicie, rodzina użyła książki do identyfikacji grzybów, którą kupiła w popularnym sklepie. W poście stwierdzono, że książka zawierała obrazy i tekst stworzone przez AI w celu identyfikacji grzybów, ale wszystkie były trujące. Rodzina zjadła grzyby z pomocą książki napisanej przez AI, a wszystkie zostały przyjęte do szpitala, co jest dużym znakiem zapytania w odniesieniu do treści AI.

Dyrektor ds. technicznych Ripple porównuje sprawę do historycznego pozwu

W poście stwierdzono również, że w książce znajdują się nie tylko zdjęcia wykonane przez sztuczną inteligencję, ale także odpowiedzi chatbota w tekście książki sugerujące, że żaden człowiek nie miał w tym udziału. Chociaż sprzedawca najwyraźniej zwrócił pieniądze za książkę, problem ten sprawił, że ludzie zaczęli się zastanawiać, czy może być więcej niskiej jakości książek napisanych przez sztuczną inteligencję na sprzedaż.

W swoim wpisie w mediach społecznościowych Schwartz porównał to wydarzenie do znanego pozwu, który miał miejsce na początku lat 90. Dyrektor wykonawczy Ripple powołał się na sprawę Winter v. G.P. Putnam’s Sons, sprawę Sądu Apelacyjnego z 1991 r. Sprawa dotyczy dwójki młodych dorosłych, którzy postanowili kupić książkę, którą nazwali „The Encyclopedia of Mushrooms”, aby posłużyła jako punkt odniesienia.

Para była zmuszona szukać prawnej interwencji przeciwko P. Putnam’s Sons za odpowiedzialność za produkt, zaniedbanie i fałszywe przedstawienie. Chociaż dwaj grzybiarze niemal stracili życie z powodu błędnych informacji podanych w książce, sąd orzekł na korzyść wydawcy.

Przewodniki identyfikacyjne pod lupą w kontekście wykorzystania sztucznej inteligencji

Wykorzystanie tej sprawy przez Schwartza pokazuje, że wykorzystanie AI w tworzeniu treści nie jest czymś pozytywnym i ma prawne konsekwencje. Nadal przedmiotem debaty jest to, czy książki generowane przez AI mogą podlegać podobnym procedurom prawnym, ponieważ coraz więcej treści jest produkowanych z pomocą AI.

Schwartz napisał post X dotyczący Quora, popularnej witryny z pytaniami i odpowiedziami. To nie pierwszy raz, kiedy CTO Ripple krytykuje tę witrynę i sposób, w jaki wykorzystuje się na niej sztuczną inteligencję. W swoim poście Schwartz zwrócił uwagę na niektóre problemy z pytaniami generowanymi przez sztuczną inteligencję Quora, które określił jako „generowane przez AI śmieci”.