Ujawnienie: Poglądy i opinie wyrażone tutaj należą wyłącznie do autora i nie reprezentują poglądów i opinii redakcji crypto.news.

Wiodący na świecie słownik internetowy Dictionary.com dokonał niedawno interesującego wyboru słowa roku 2023: halucynacja. Nie jest to spowodowane jakąś paniką wokół nowego typu halucynogenów czy nowym ruchem masowej histerii, ale bardzo osobliwą nazwą bardzo osobliwego zjawiska powstałego w wyniku rodzącego się przemysłu sztucznej inteligencji, lub dokładniej, sztucznej inteligencji ogólnej ( AGI), która zyskała popularność w świadomości publicznej od czasu uruchomienia przez OpenAI generatywnego chatbota AI ChatGPT w listopadzie 2022 r. 

Może Cię również zainteresować: Intencje i rozwiązania: kolejna granica sztucznej inteligencji w handlu defi i zarządzaniu portfelem | Opinia

Oczywiście tylko żywe organizmy posiadające rzeczywiste zmysły mogą „halucynować”, ale jest to ogólny termin używany do opisania sytuacji, gdy sztuczna inteligencja dostarcza fałszywych informacji lub generuje losowy język, który nie odnosi się do konkretnego zapytania, które jej zadano. . 

W jednym przypadku sztuczna inteligencja w wyszukiwarce Bing firmy Microsoft zaczęła ignorować zapytania reportera „New York Timesa”, próbując przekonać go do opuszczenia żony. Pomijając tę ​​zabawną ciekawość (może nie tyle dla reportera), wczesne halucynacje AGI stworzyły prawdziwe problemy, gdy użytkownicy silników zapytań, takich jak ChatGPT, bezkrytycznie akceptują jego odpowiedzi. W jednym przypadku prawnicy zostali ukarani grzywną (i wyśmiani na sali sądowej) za wykorzystanie ChatGPT do sporządzenia dokumentacji prawnej zawierającej kilka fałszywych cytatów ze spraw. 

Ci prawnicy przysporzyli sobie krótkotrwałych kłopotów finansowych i niewątpliwie długotrwałego wstydu osobistego i zawodowego, ale co się stanie, gdy w grę wchodzą miliony, a może nawet miliardy?

AI i sektor finansowy 

Musimy uważać na pokusę sztucznej inteligencji, zwłaszcza w branży finansowej, która rozkwitła dzięki automatyzacji, ale także poniosła już z jej powodu znaczne straty. Jeśli mamy w przyszłości włączyć to nowe narzędzie do analizy danych do naszej infrastruktury informacyjnej, a zwłaszcza do naszej infrastruktury informacji finansowych, musimy zachować ostrożność co do sposobu wdrażania i samoregulacji tych technologii w branży. 

Niewiele osób pamięta początki – i czasami niebezpieczne – dni zautomatyzowanego handlu o wysokiej częstotliwości, na przykład wtedy, gdy algorytm wymazał z nowojorskiej giełdy papierów wartościowych w 2012 r. wartość prawie pół miliarda dolarów. Fałszywe dane przedstawione przez potencjalnych Halucynacje AGI, ujęte w potoczny i ludzki język, mogą być jeszcze bardziej ryzykowne, ponieważ nie tylko propagują fałszywe dane, które mogą zaostrzyć słabo poinformowane transakcje i panikę finansową, ale także nakłonią ludzkich handlowców do popełnienia innych, długoterminowych błędów w ocenie. 

Dlaczego powstają halucynacje? Czasami sposób konstruowania podpowiedzi może dezorientować obecne iteracje generatywnej sztucznej inteligencji lub dużych modeli językowych (LLM). W ten sam sposób inteligentne głośniki, takie jak Google Home lub Amazon Echo, mogą błędnie zinterpretować szum tła jako kierowane do nich zapytanie.

Najczęściej zdarza się również, że wczesne AGI zostały przeszkolone na wadliwym zbiorze danych w wyniku błędnego oznakowania lub błędnej kategoryzacji. To coś więcej niż tylko przypadek, w którym różne strony sceny politycznej mają własne definicje „faktów alternatywnych” lub „fałszywych wiadomości” lub decydują się na podkreślenie wiadomości, które sprawiają, że ich strona wygląda dobrze, a druga źle; AGI po prostu nie ma wystarczającej ilości danych w swoim modelu, aby zapewnić bezpośrednią lub spójną odpowiedź, więc wpada w króliczą norę, zapewniając niespójną i pośrednią odpowiedź.

W pewnym sensie nie różni się ona od innych powstających technologii, które pojawiły się wcześniej, a jej ambicje przewyższały istniejącą jakość i szybkość dostarczania danych. Internet tak naprawdę nie zmienił zasad gry, dopóki nie umożliwił przesyłania znacznych ilości danych z jednego komputera osobistego na drugi. Niektórzy twierdzą, że sytuacja naprawdę się zmieniła, gdy nasze telefony komórkowe mogły zrobić to samo. W ramach tego nowego AGI ludzie szkolą się także w zakresie ciągłego tworzenia nowych modeli sztucznej inteligencji z lepszymi zbiorami danych i skuteczniejszymi sposobami zapewniania szybkich, użytecznych i, miejmy nadzieję, spójnych spostrzeżeń i danych wywiadowczych. 

Czy istnieje rozwiązanie?

Wiele osób sugeruje różne sposoby minimalizowania halucynacji, w tym tak zwane pokolenie wspomagane wyszukiwaniem (RAG), które zasadniczo polega na ciągłym aktualizowaniu źródeł danych w czasie rzeczywistym. Może to być jedna z zalet Grok AI Elona Muska, który ma dostęp do najpopularniejszego publicznego źródła danych w czasie rzeczywistym z ostatnich 15 lat.

Jednak jestem zwolennikiem blockchainu jako rozwiązania. Nie byłby zamknięty w jednym korporacyjnym odźwiernym ani otoczonym murem ogrodzie danych i mógłby tworzyć nowe, lepsze źródła zdecentralizowanych danych. Blockchain służy nie tylko do przechowywania i przesyłania danych w trybie peer-to-peer, ale także do przesyłania płatności, co może stworzyć nowe metody zachęty do rozpoczęcia czegoś, co z pewnością będzie radykalnie nowym etapem gospodarki informacyjnej opartej na sztucznej inteligencji.

W świecie finansów coś w rodzaju zdecentralizowanego wykresu wiedzy wzmocniłoby pozycję interesariuszy z całej branży i zachęciłoby je do przejrzystego udostępniania większej ilości danych. Blockchain byłby w stanie aktualizować i weryfikować wszystkie istotne i niezmienne informacje w czasie rzeczywistym. Ta metoda weryfikacji danych byłaby ulepszoną wersją RAG i drastycznie zmniejszyłaby liczbę halucynacji AGI, z zasobami wiedzy posiadającymi wbudowaną semantykę i weryfikowalność (w interesie ujawnienia współpracowałem z OriginTrail, który opracowuje swoją wersję zdecentralizowanej wiedzy wykres).

Może nadejść dzień, w którym „roboty” będą jeszcze lepszymi traderami niż ludzie. Ostatecznie to my będziemy decydować, czy stworzyć system, który zapewni tym robotom narzędzia, dzięki którym będą lepsze, solidniejsze i szybsze w rzeczywistości, którą sami tworzymy, a nie tej, którą „halucynują”. 

Przeczytaj więcej: Sceptycy Crypto będą mieli trudniejszy argument w 2024 r. | Opinia

Autor: Enzo Villani

Enzo Villani jest dyrektorem generalnym i dyrektorem ds. inwestycji w Alpha Transform Holdings. Jest seryjnym przedsiębiorcą z dwudziestoletnim doświadczeniem jako główny strateg firm z listy Fortune 500, firm private equity i kapitału wysokiego ryzyka. Enzo był współzałożycielem Nasdaq Corporate Solutions oraz współzałożycielem i dyrektorem ds. strategii dwóch strategicznych konsolidacji fuzji i przejęć w obszarach relacji inwestorskich, pozyskiwania pełnomocników, ładu korporacyjnego i technologii finansowej. W branży blockchain Enzo był dyrektorem ds. strategii w Transform Group, która reprezentowała uruchomienie ponad 37% kapitalizacji rynku altcoinów do 2019 roku. Był współzałożycielem Blockchain Wire oraz nadzorował międzynarodową strategię i innowacje w OKEx. Enzo posiada tytuł MBA uzyskany na Uniwersytecie Johnson School w Cornell.