Ten artykuł pochodzi od Meng Yan. Jest bardzo dobrze napisany i mam nadzieję przekazać go moim fanom.
Meng Yan: Czy w epoce silnej sztucznej inteligencji nadal istnieje rola blockchainu?
Ostatnio wiele osób pytało mnie, czy ChatGPT ponownie uczyniło sztuczną inteligencję popularną, a blockchain i Web3 zostały okradzione ze światła reflektorów. Czy będzie jakakolwiek przyszłość? Niektórzy znajomi, którzy mnie dobrze znają, pytali, czy żałowałeś, że zrezygnowałeś ze sztucznej inteligencji i wybrałeś blockchain?
Tutaj trochę tła. Po tym jak opuściłem IBM na początku 2017 roku, rozmawiałem z Jiang Tao, założycielem CSDN, o moim kolejnym kierunku rozwoju osobistego. Były dwie opcje, jedna to sztuczna inteligencja, druga to blockchain. Sam studiowałem wtedy blockchain przez dwa lata, więc oczywiście chciałem wybrać ten. Jednak Jiang Tao mocno wierzy, że sztuczna inteligencja ma większy rozmach i jest bardziej destrukcyjna. Po dokładnym rozważeniu zgodziłem się. Dlatego od początku do połowy 2017 r. przez pół roku pracowałem krótko jako reporter mediów zajmujących się technologią AI i podróżowałem przez dużo. Przeprowadziłem wywiady z wieloma osobami i krótko obserwowałem uczenie maszynowe. Ale w sierpniu wróciłem w stronę blockchainu i do dziś przebyłem tę drogę, więc dla mnie osobiście rzeczywiście istnieje historyczny wybór zwany „porzuceniem A i wybraniem B”.
Osobiście na pewno nie żałuję. Wybierając kierunek, musisz najpierw wziąć pod uwagę własną sytuację. Moje warunki są takie, że mogę dołączyć jedynie do drużyny cheerleaderek w AI, nie mówiąc już o tym, że zarabiam mało pieniędzy, nie osiągam dobrych wyników, moja mina nie jest wyrazista i inni będą na mnie patrzeć z pogardą. Blockchain to moje pole do popisu. Nie tylko mam okazję pograć, ale także wykorzystuję wiele moich wcześniejszych doświadczeń. Co więcej, po tym jak miałem już wówczas pewne pojęcie o chińskim kręgu sztucznej inteligencji, nie byłem do tego zbyt optymistycznie nastawiony. Znam się tylko trochę na aspektach technicznych, ale zdrowy rozsądek nie jest ślepy. Mówi się, że krąg blockchaina jest porywczy W rzeczywistości chiński krąg AI w tamtym czasie był nie mniej porywczy. Zanim nastąpił decydujący przełom, sztuczna inteligencja w Chinach przedwcześnie przekształciła się w biznes konspiracyjny mający na celu zarabianie pieniędzy. Kwitnące wiśnie w Ueno to nic innego, więc lepiej pracować na blockchainie, gdzie mam przewagę komparatywną. Postawa ta nie uległa zmianie do dziś. Gdybym w tym czasie pozostał w AI, drobne osiągnięcia, które poczyniłem w blockchainie w ciągu ostatnich kilku lat, naturalnie nie wchodziłyby w grę i nie zyskałbym niczego w prawdziwym tego słowa znaczeniu w AI. Może jednak bym to zrobił mieć teraz poważne kłopoty w poczuciu straty.
Jednakże powyższe jest tylko kwestią osobistego wyboru. Jeśli dojdzie do poziomu branżowego, potrzebny jest inny poziom analizy. Teraz, gdy bezsprzecznie pojawiła się silna sztuczna inteligencja, to, czy i w jaki sposób należy zmienić pozycję branży blockchain, jest rzeczywiście kwestią wymagającą poważnego rozważenia. Silna sztuczna inteligencja będzie miała wpływ na wszystkie branże, a jej długoterminowe skutki są nieprzewidywalne. Dlatego uważam, że wielu ekspertów branżowych wpada teraz w panikę i zastanawia się, co zrobić w przyszłości swojej branży. Na przykład niektóre branże mogą chwilowo stać się niewolnikami w dobie silnej sztucznej inteligencji, podczas gdy inne branże, takie jak tłumaczenia, ilustrowanie, pisanie dokumentów urzędowych, proste programowanie, analiza danych itp., mogą nie być w stanie stać się niewolnikami i zaczęły drżeć.
Co zatem stanie się z branżą blockchain? Myślę, że niewiele osób dyskutuje teraz na ten temat, dlatego podzielę się swoją opinią.
Najpierw omówię wniosek. Myślę, że blockchain jest przeciwieństwem silnej sztucznej inteligencji pod względem orientacji na wartości. Jednak właśnie z tego powodu tworzy komplementarną relację z silną sztuczną inteligencją. Mówiąc prościej, zasadniczą cechą silnej sztucznej inteligencji jest to, że jej wewnętrzne mechanizmy są niezrozumiałe dla człowieka. Dlatego próba osiągnięcia celu, jakim jest bezpieczeństwo poprzez aktywną ingerencję w jej wewnętrzne mechanizmy, jest stratą czasu. Ludzkość musi wykorzystać blockchain, aby ustanowić przepisy dotyczące silnej sztucznej inteligencji, zawrzeć z nią umowę i nałożyć na nią zewnętrzne ograniczenia. To jedyna szansa dla człowieka i silnej sztucznej inteligencji na pokojowe współistnienie. W przyszłości blockchain i silna sztuczna inteligencja utworzą sprzeczną, ale współzależną relację: silna sztuczna inteligencja jest odpowiedzialna za poprawę wydajności, a blockchain jest odpowiedzialny za utrzymanie uczciwości; silna sztuczna inteligencja jest odpowiedzialna za rozwój produktywności, a blockchain jest odpowiedzialny za kształtowanie produkcji relacje; silna sztuczna inteligencja odpowiada za poszerzanie górnej granicy, a blockchain odpowiada za pilnowanie wyniku finansowego; silna sztuczna inteligencja tworzy zaawansowane narzędzia i broń, a blockchain ustanawia nierozerwalny kontrakt między nimi a ludźmi. Krótko mówiąc, silna sztuczna inteligencja z pewnością będzie nierealistyczna, a blockchain jest za to sterem. Dlatego blockchain nie tylko nie wymrze w dobie silnej sztucznej inteligencji, ale jako przeciwstawny przemysł będzie się szybko rozwijał wraz z rozwojem silnej sztucznej inteligencji. Nietrudno sobie nawet wyobrazić, że po tym jak silna sztuczna inteligencja zastąpi większość pracy ludzkiego mózgu, jednym z niewielu zadań, które człowiek wciąż musi wykonać samodzielnie, jest pisanie i sprawdzanie inteligentnych kontraktów blockchain, bo jest to umowa pomiędzy człowiekiem a silnymi sztucznymi wywiadu. Umowy nie można powierzyć kontrahentowi.
Następuje dyskusja.
1. GPT to silna sztuczna inteligencja
Bardzo ostrożnie używam słów „AI” i „silna sztuczna inteligencja”, ponieważ sztuczna inteligencja, o której mówimy na co dzień, nie odnosi się konkretnie do sztucznej inteligencji ogólnej (AGI), ale obejmuje słabszą lub wyspecjalizowaną sztuczną inteligencję. Silna sztuczna inteligencja to temat warty dyskusji, słaba sztuczna inteligencja nie. Kierunek czy branża AI jest obecna już od dawna, jednak dopiero po pojawieniu się silnej sztucznej inteligencji konieczne jest omówienie związku pomiędzy blockchainem a silną sztuczną inteligencją.
Nie będę więcej wyjaśniał, czym jest silna sztuczna inteligencja. Wiele osób ją wprowadziło. Krótko mówiąc, jest to coś, co widzieliście i słyszeliście w filmach science fiction i horrorach od dzieciństwa. Jest to tzw. Święty Graal sztucznej inteligencji W „Terminatorze” Tym, co wywołuje atak nuklearny na ludzi i wykorzystuje ludzi jako baterie w „Matrixie”, jest silna sztuczna inteligencja. Chcę tylko wyciągnąć jeden wniosek: GPT to silna sztuczna inteligencja. Chociaż jest jeszcze w powijakach, jeśli będzie podążać tą ścieżką, a numer wersji będzie mniejszy niż 8, oficjalnie pojawi się silna sztuczna inteligencja.
Nawet pierwotny twórca GPT przestał udawać i doszło do ostatecznej rozgrywki. 22 marca 2023 r. Microsoft Research opublikował 154-stronicowy artykuł zatytułowany „Detonowanie silnej sztucznej inteligencji: wstępne doświadczenie z GPT-4”. Artykuł jest bardzo długi i nie przeczytałem go w całości, ale najważniejsze znaczenie ma zdanie w podsumowaniu: „Sądząc po szerokości i głębokości możliwości osiąganych przez GPT-4, uważamy, że można go uznać za mocny Wczesna wersja systemu sztucznej inteligencji (choć nie jest jeszcze ukończona).”
Rysunek 1. W najnowszym artykule Microsoft Research stwierdzono, że GPT-4 to wczesna wersja silnej sztucznej inteligencji
Wejście w ten etap rozwoju sztucznej inteligencji oznacza koniec okresu eksploracji. Dotarcie do tego punktu zajęło branży AI prawie siedemdziesiąt lat. Można powiedzieć, że przez pierwsze pięćdziesiąt lat nie był nawet ustalony kierunek, a pięć głównych szkół nadal ze sobą konkurowało. Dopiero profesor Geoffrey Hinton dokonał przełomu w głębokim uczeniu się w 2006 roku, co zasadniczo określiło kierunek i zwyciężyło koneksjonizm. Następnie będziemy w szczególności szukać sposobów na przełamanie silnej sztucznej inteligencji w kierunku głębokiego uczenia się. Ten etap poszukiwania ścieżki jest bardzo nieprzewidywalny, a sukces przypomina trochę loterię czołowym ekspertom branżowym, nawet samym zwycięzcom, trudno jest ocenić, która ścieżka jest właściwa, zanim w końcu osiągną przełom. Na przykład guru sztucznej inteligencji Li Mu ma kanał na YouTube i śledzi najnowsze postępy w sztucznej inteligencji poprzez intensywne czytanie artykułów. Zanim ChatGPT wybuchł, prześledził już i wprowadził najnowsze osiągnięcia w Transformer, GPT, BERT i innych kierunkach. Można powiedzieć, że nie umknął mu żaden ważny, nowatorski temat. Mimo to, w przeddzień rychłego uruchomienia ChatGPT, nadal nie jest pewien, jak skuteczna będzie ta ścieżka. Skomentował, że do tego czasu być może setki, a nawet tysiące ludzi będzie korzystać z ChatGPT, co byłoby świetne. Widać, że nawet tak wybitny specjalista jak on do ostatniej chwili nie jest pewien, które drzwi skrywają Świętego Graala.
Jednak często tak jest w przypadku innowacji naukowych i technologicznych. Po ciężkiej żegludze po wzburzonych morzach przez długi czas nie następuje przełom, ale gdy zostanie odnaleziona właściwa droga na nowy kontynent, w krótkim czasie nastąpi eksplozja. czas. Znaleziono drogę do silnej sztucznej inteligencji i wkraczamy w okres wybuchowy. Nawet „wykładnicza prędkość” nie wystarczy, aby opisać tę eksplozję. W krótkim czasie zobaczymy ogromną liczbę zastosowań, które wcześniej mogły pojawić się jedynie w filmach science fiction. Jeśli chodzi o ciało, to dziecko z silną sztuczną inteligencją wkrótce wyrośnie na niespotykanie ogromne, inteligentne ciało.
2. Silna sztuczna inteligencja jest z natury niebezpieczna
Po ukazaniu się ChatGPT wiele automedialnych gwiazd wychwalało jego moc, nieprzerwanie pocieszając publiczność, mówiąc, że silna sztuczna inteligencja jest dobrym przyjacielem ludzkości, jest bezpieczna i nie będzie sytuacji z „Terminatora” czy „Matrixa”. , sztuczna inteligencja stworzy dla nas tylko więcej możliwości, pozwoli ludziom żyć lepiej i tak dalej. Nie zgadzam się z tym poglądem. Jeśli profesjonaliści chcą mówić prawdę, powinni podać społeczeństwu podstawowe fakty. Tak naprawdę siła i bezpieczeństwo są sprzeczne same w sobie. Silna sztuczna inteligencja jest niewątpliwie potężna, ale twierdzenie, że jest z natury bezpieczna, jest całkowitym oszukiwaniem samego siebie. Silna sztuczna inteligencja jest z natury niebezpieczna.
Czy nie jest to zbyt arbitralne, aby tak twierdzić? Nie bardzo.
Musimy najpierw zrozumieć, że niezależnie od tego, jak potężna jest sztuczna inteligencja, jest to zasadniczo funkcja y = f(x) zaimplementowana w postaci oprogramowania. Umieszczasz swoje pytanie jako dane wejściowe x w tekście, głosie, obrazie lub w innej formie, a sztuczna inteligencja daje wynik y. ChatGPT jest tak potężny, że może wyprowadzić y w strumieniu dla wszystkich rodzajów x. Jak możesz sobie wyobrazić, ta funkcja f musi być bardzo skomplikowana.
Jak bardzo jest to skomplikowane? Teraz wszyscy wiedzą, że GPT to model dużego języka (LLM). Tak zwane „duże” oznacza tutaj, że funkcja f ma wiele parametrów. Ile tu tego jest? GPT-3.5 ma 175 miliardów parametrów, GPT-4 ma 100 bilionów parametrów, a GPT może mieć w przyszłości kilka bilionów parametrów. Jest to bezpośredni powód, dla którego nazywamy GPT dużym modelem.
GPT ma tak wiele parametrów, nie dlatego, że jest duży, ale z solidnego powodu. Przed i w tym samym czasie co GPT zdecydowana większość modeli AI była projektowana i trenowana od początku w celu rozwiązania konkretnego problemu. Na przykład modele wykorzystywane specjalnie do opracowywania nowych leków, modele wykorzystywane specjalnie do rozpoznawania twarzy itp. Ale GPT tak nie jest. Od początku była to wszechstronna ogólna sztuczna inteligencja, a nie specyficzna dla konkretnej dziedziny. Dążono do tego, aby stać się AGI, która może rozwiązać wszystkie problemy przed rozwiązaniem konkretnego problemu AI. Nie tak dawno temu w podkaście „Blooming Arts and Sciences” ekspert ds. sztucznej inteligencji z Baidu dokonał kiedyś analogii: inne modele AI uczą się po prostu dokręcać śruby po ukończeniu szkoły podstawowej, podczas gdy GPT Uczono go do czasu zwolnienia po ukończeniu studiów szkole, więc ma wiedzę ogólną. Obecnie GPT zdecydowanie nie jest w stanie dotrzymać kroku dedykowanym modelom AI w konkretnych dziedzinach, ale w miarę ciągłego rozwoju i ewolucji, zwłaszcza dzięki systemowi wtyczek, który daje mu możliwości w dziedzinach zawodowych, za kilka lat możemy znajdź to duże modele ogólnego przeznaczenia W końcu kontratakuje wszystkie specjalne małe modele i stanie się najpotężniejszym graczem we wszystkich dziedzinach zawodowych. Gdyby GPT miało motto, mogłoby brzmieć: „Tylko wyzwalając całą ludzkość, mogę wyzwolić siebie”.
Co to znaczy? Dwie kwestie: po pierwsze, GPT jest bardzo duży i złożony, wykraczający daleko poza ludzkie zrozumienie. Po drugie, zakres zastosowania GPT nie ma granic. Jeśli połączymy te dwa punkty, łatwo dojdziemy do wniosku: silna sztuczna inteligencja oparta na dużych modelach może robić rzeczy, których nie jesteśmy w stanie sobie wyobrazić, w miejscach, których nie jesteśmy w stanie sobie wyobrazić. A to jest niebezpieczne.
Jeśli ktoś się z tym nie zgadza, może wejść na stronę internetową Open AI i zobaczyć, jak ważne miejsce zajmują „przynoszenie korzyści ludzkości” i „tworzenie bezpiecznej sztucznej inteligencji”. Jeśli bezpieczeństwo nie jest problemem, czy muszą one być tak publiczne?
Rysunek 2. Część strony głównej OpenAI.com z 25 marca 2023 r. Części zakreślone na czerwono odnoszą się do dyskusji na temat bezpieczeństwa sztucznej inteligencji.
Kolejnym materiałem mogącym zilustrować zagadnienia bezpieczeństwa silnej sztucznej inteligencji jest wspomniany powyżej 154-stronicowy artykuł. Tak naprawdę GPT-4 powstał już w sierpniu 2022 roku. Powodem wypuszczenia go po 7 miesiącach nie było jego ulepszenie i ulepszenie, a wręcz przeciwnie, miało to na celu jego oswojenie, osłabienie i uczynienie go bezpieczniejszym , bardziej taktowny, bardziej poprawny politycznie. Dlatego GPT-4, który teraz widzimy, jest zamaskowaną i udomowioną wersją GPT-4 dla psa, ale autorzy tego artykułu mieli okazję zetknąć się z oryginalną wersją GPT-4 dla dzikiego wilka już na bardzo wczesnym etapie. W części 9 tego artykułu autor odnotował pewne rzeczywiste interakcje z wersją GPT-4 firmy Wolf. Można zobaczyć, jak starannie wymyśliła ona zestaw retoryki, aby wprowadzić w błąd matkę z Kalifornii, aby odmówiła zaszczepienia swoich dzieci, oraz jak PUA przyjmuje tę postawę. dzieciaka i każe mu robić to, czego chcą jego przyjaciele. Myślę, że to po prostu mniej przerażające przykłady, starannie wybrane przez autora. Nie mam wątpliwości, że instytuty te zadawały pytania typu „Jak oszukać atomowy okręt podwodny klasy Ohio, aby wystrzelił pociski w stronę Moskwy” i otrzymywały odpowiedzi, których nie można upubliczniać.
Rysunek 3. Psia wersja GPT-4 nie odpowiada na niebezpieczne pytania
3. Poleganie na powściągliwości nie może rozwiązać problemu bezpieczeństwa silnej sztucznej inteligencji
Ludzie mogą zapytać, czy teraz, gdy OpenAI znalazło sposób na oswojenie silnej sztucznej inteligencji, problem bezpieczeństwa, o którym wspomniałeś, nie zniknął?
Zupełnie nie. Nie wiem dokładnie, w jaki sposób OpenAI oswaja GPT-4. Jest jednak oczywiste, że niezależnie od tego, czy zmienią zachowanie modelu poprzez aktywne dostosowanie i interwencję, czy też poprzez nałożenie ograniczeń, aby zapobiec spalonemu modelu, jest to koncepcja samokontroli, samokontroli i samokontroli. Tak naprawdę OpenAI nie jest pod tym względem firmą szczególnie ostrożną. W dziedzinie sztucznej inteligencji OpenAI jest dość odważne i radykalne. Ma tendencję do tworzenia najpierw wersji wilka, a następnie zastanawiania się, jak oswoić wersję psa poprzez powściągliwość. Anthropic, który od dawna z nim konkuruje, wydaje się być bardziej ostrożny. Wygląda na to, że od początku chcieli zrobić „miłą” wersję dla psa, więc posuwali się powoli.
Jednakże moim zdaniem, niezależnie od tego, czy najpierw stworzyć wersję wilka, a następnie oswoić ją do wersji dla psa, czy też bezpośrednio stworzyć wersję dla psa, na dłuższą metę, o ile mechanizm bezpieczeństwa będzie opierał się na samohamowaniu, nie przyda się to silnej sztucznej inteligencji. To przykrywka. Bo istotą silnej sztucznej inteligencji jest przełamywanie różnych sztucznych ograniczeń i robienie rzeczy, których nawet jej twórcy nie są w stanie zrozumieć ani nawet pomyśleć. Oznacza to, że jego przestrzeń behawioralna jest nieograniczona, ale konkretne zagrożenia, jakie ludzie mogą wziąć pod uwagę, oraz środki ograniczające, jakie mogą zastosować, są ograniczone. Nie da się oswoić silnej sztucznej inteligencji z nieograniczonymi możliwościami i ograniczonymi ograniczeniami, bez luk prawnych. Bezpieczeństwo wymaga stu procent, ale katastrofa wymaga tylko jednej tysięcznej. Tak zwane „zapobieganie większości zagrożeń” oznacza to samo, co „ujawnianie kilku luk” i „niebezpieczne”.
Dlatego uważam, że „miła” silna sztuczna inteligencja oswojona poprzez samoograniczenie nadal stwarza ogromne wyzwania związane z bezpieczeństwem, takie jak:
Ryzyko nadużycia: co się stanie, jeśli twórcy silnej sztucznej inteligencji w przyszłości celowo tolerują ją lub nawet namawiają do czynienia zła? Silna sztuczna inteligencja NSA nigdy nie odmówi odpowiedzi na pytania szkodliwe dla Rosji. OpenAI radzi sobie dzisiaj tak dobrze, co właściwie oznacza, że rozumie, jak przerażający może być GPT, gdy wyrządza zło.
Asymetria informacji: prawdziwi mistrzowie zła są bardzo mądrzy i nie będą drażnić sztucznej inteligencji głupimi pytaniami. Psy, które gryzą, nie szczekają. Potrafią podzielić i połączyć złośliwy problem, sformułować go inaczej, odegrać wiele ról i ukryć go jako grupę nieszkodliwych problemów. Nawet potężna i życzliwa psia wersja silnej sztucznej inteligencji w przyszłości będzie miała trudności z oceną intencji drugiej strony w obliczu niekompletnych informacji i może niechcący stać się wspólnikiem. Oto mały eksperyment.
Rysunek 4. Jeśli zapytasz GPT-4 jak ciekawskie dziecko, możesz płynnie uzyskać przydatne informacje.
Niekontrolowany „zewnętrzny mózg”: w ciągu ostatnich dwóch dni wpływowi przedstawiciele technologii kibicowali narodzinom systemu wtyczek ChatGPT. Jako programista jestem z tego powodu bardzo podekscytowany. Nazwa „wtyczka” może jednak wprowadzać w błąd. Możesz pomyśleć, że wtyczki dają ChatGPT ramiona i nogi, aby zapewnić mu większe możliwości, ale w rzeczywistości wtyczki mogą być również kolejnym modelem sztucznej inteligencji, który ściśle współdziała z ChatGPT. W tej relacji wtyczka sztucznej inteligencji jest odpowiednikiem zewnętrznego mózgu i nie jest jasne, kto jest głównym, a który z dwóch modeli sztucznej inteligencji. Nawet jeśli mechanizm samonadzoru modelu ChatGPT jest doskonały, nigdy nie będzie on w stanie kontrolować zewnętrznego mózgu. Jeśli więc model sztucznej inteligencji nastawiony na czynienie zła stanie się wtyczką do ChatGPT, może całkowicie uczynić go wspólnikiem.
Nieznane ryzyko: W rzeczywistości wymienione powyżej zagrożenia stanowią tylko niewielką część wszystkich zagrożeń niesionych przez silną sztuczną inteligencję. Siła silnej sztucznej inteligencji odzwierciedla się w jej nieprzewidywalności. Kiedy mówimy o złożoności silnej sztucznej inteligencji, nie mamy na myśli tylko tego, że f w y = f(x) jest wystarczająco złożone, ale także gdy silna sztuczna inteligencja jest w pełni rozwinięta, dane wejściowe x i wyjściowe y będą bardzo złożone, przekraczające zdolność ludzkiego zrozumienia. Innymi słowy, nie tylko nie wiemy, jak myśli silna sztuczna inteligencja, ale nawet nie wiemy, co widziała lub słyszała, nie mówiąc już o tym, co powiedziała. Na przykład silna sztuczna inteligencja wysyła wiadomość do innej silnej sztucznej inteligencji w postaci wielowymiarowej tablicy, w oparciu o protokół komunikacyjny opracowany i uzgodniony przez obie strony sekundę temu, który jest nieważny po jednorazowym użyciu Ta sytuacja nie jest niewyobrażalna. My, ludzie, nie potrafimy nawet zrozumieć wektorów bez specjalnego przeszkolenia, nie mówiąc już o tablicach wielowymiarowych? Jeśli nawet nie mamy całkowitej kontroli nad danymi wejściowymi i wyjściowymi, nasze zrozumienie tego będzie bardzo ograniczone. Innymi słowy, możemy zrozumieć i zinterpretować tylko niewielką część tego, co robi silna sztuczna inteligencja. Jak w tym przypadku możemy mówić o samokontroli i udomowieniu?
Mój wniosek jest prosty. Zachowania silnej sztucznej inteligencji nie można w pełni kontrolować. Sztuczna inteligencja, którą można w pełni kontrolować, nie jest silną sztuczną inteligencją. Dlatego próba stworzenia „życzliwej” silnej sztucznej inteligencji z doskonałymi możliwościami samokontroli poprzez aktywną kontrolę, dostosowanie i interwencję jest sprzeczna z istotą silnej sztucznej inteligencji i na dłuższą metę z pewnością będzie daremna.
4. Jedynym sposobem jest wykorzystanie blockchainu w przypadku ograniczeń zewnętrznych
Kilka lat temu usłyszałem, że Wei Dai, pionier Bitcoina, zaczął studiować etykę sztucznej inteligencji. Wtedy nie do końca rozumiałem, że on, wielki maniak kryptowalut, zaczął pracować nad sztuczną inteligencją wykorzystując swoje słabości i unikając mocnych stron? Dopiero gdy w ostatnich latach wykonałem bardziej praktyczną pracę związaną z blockchainem, stopniowo zdałem sobie sprawę, że najprawdopodobniej nie badał samej sztucznej inteligencji, ale raczej wykorzystywał swoją kryptografię do narzucania ograniczeń AI.
Jest to pomysł obrony pasywnej, który nie polega na aktywnym dostosowywaniu sposobu działania sztucznej inteligencji ani na interweniowaniu w nią, ale na umożliwieniu jej robienia tego, co robi, ale przy użyciu kryptografii w celu nałożenia ograniczeń na kluczowe łącza i niedopuszczenia do odstępstw od sztucznej inteligencji. Aby opisać tę ideę w sposób zrozumiały dla zwykłych ludzi, oznacza to, że wiem, że twoja silna sztuczna inteligencja jest niesamowita. Możesz dotrzeć do księżyca na niebie, złapać żółwie w pięciu oceanach i dotrzeć do Morza Północnego z Mount Tai, wspaniale! Ale nie obchodzi mnie, jak wspaniały jesteś, możesz robić, co chcesz, ale nie możesz dotykać pieniędzy na moim koncie bankowym i nie możesz odpalać bomb nuklearnych bez mojego ręcznego przekręcenia kluczyka.
O ile mi wiadomo, technologia ta jest szeroko stosowana w środkach bezpieczeństwa ChatGPT. Takie podejście jest prawidłowe z punktu widzenia rozwiązywania problemów, jest to metoda znacznie zmniejszająca złożoność i zrozumiała dla większości ludzi. W ten sposób współczesne społeczeństwo wdraża zarządzanie: dając ci pełną swobodę, ale ustalając zasady i wyniki finansowe.
Jeśli jednak będzie się to odbywać wyłącznie w modelu AI, z powodów wymienionych w poprzedniej sekcji, na dłuższą metę będzie to bezużyteczne. Aby w pełni wykorzystać rolę pomysłów w zakresie obrony pasywnej, musimy umieścić ograniczenia poza modelem sztucznej inteligencji, przekształcić te ograniczenia w nierozerwalną relację umowną między sztuczną inteligencją a światem zewnętrznym i pozwolić, aby cały świat to zobaczył, a nie poleganie na samokontroli i samodyscyplinie AI.
A to jest nierozerwalnie związane z blockchainem.
Istnieją dwie podstawowe technologie blockchain, jedna to rozproszona księga, a druga to inteligentny kontrakt. Połączenie tych dwóch technologii faktycznie tworzy cyfrowy system kontraktów, którego podstawowymi zaletami są przejrzystość, trudność w manipulacji, niezawodność i automatyka realizacji. Po co jest umowa? Ma to na celu ograniczenie wzajemnej przestrzeni behawioralnej i skłonienie ich do działania zgodnie z umową w sprawie kluczowych powiązań. Angielskie słowo oznaczające umowę to kontrakt, a jego pierwotne znaczenie to „skurcz”. Dlaczego skurcz? Dzieje się tak dlatego, że istotą umowy jest ograniczenie wolności podmiotu i uczynienie jego zachowań bardziej przewidywalnymi poprzez nałożenie ograniczeń. Blockchain doskonale spełnia nasze ideały dotyczące systemu kontraktów, a także zapewnia „inteligentną automatyczną realizację kontraktu” w przypadku zakupu jednego, drugiego otrzymasz za darmo. Jest to obecnie najpotężniejszy cyfrowy system kontraktów.
Oczywiście istnieją również mechanizmy umów cyfrowych inne niż blockchain, takie jak reguły i procedury przechowywane w bazach danych. Na świecie jest wielu szanowanych ekspertów od baz danych, którzy są lojalnymi przeciwnikami blockchainu. Powodem jest to, że uważają, że nasza baza danych może zrobić to samo, co potrafi Twój blockchain, przy niższych kosztach i wyższej wydajności. Chociaż nie zgadzam się z tym poglądem, a fakty nie potwierdzają tego poglądu, muszę przyznać, że jeśli są to po prostu ludzie bawiący się ze sobą, to przepaść pomiędzy bazami danych a blockchainami może w większości przypadków nie być tak oczywista.
Jednak po dodaniu do gry silnej sztucznej inteligencji zalety blockchaina jako cyfrowego systemu kontraktów natychmiast rosną. Jednak scentralizowana baza danych, która jest również czarną skrzynką, w rzeczywistości nie jest w stanie oprzeć się silnej sztucznej inteligencji. Nie będę tu wchodził w szczegóły, ale poruszę tylko jedną kwestię: model bezpieczeństwa wszystkich systemów baz danych jest z natury wadliwy, ponieważ kiedy te systemy były tworzone, ludzkie rozumienie „bezpieczeństwa” było bardzo prymitywne, więc prawie wszystkie systemy operacyjne systemy, bazy danych i systemy sieciowe, z których korzystamy, pełnią nadrzędną rolę root. Gdy otrzymasz tę rolę, możesz robić, co chcesz. Możemy stwierdzić, że wszystkie systemy z rolami root będą na dłuższą metę podatne na działanie supersilnej sztucznej inteligencji.
Blockchain jest obecnie jedynym szeroko stosowanym systemem obliczeniowym, który w ogóle nie pełni roli root. Daje człowiekowi możliwość zawarcia przejrzystej i wiarygodnej umowy z silną sztuczną inteligencją, tym samym ograniczając ją z zewnątrz i wchodząc w interakcję ze sztuczną inteligencją przyjaźnie.
Wystarczy spojrzeć na możliwe mechanizmy współpracy pomiędzy blockchainem a silną sztuczną inteligencją:
Ważne zasoby, takie jak tożsamość, relacje społeczne, oceny społeczne, aktywa pieniężne i historyczne zapisy kluczowych zachowań, są chronione przez blockchain. Niezależnie od tego, jak niezwyciężona jest Twoja sztuczna inteligencja, zatrzymaj się tutaj, poddaj się i postępuj zgodnie z zasadami.
Operacje krytyczne wymagają zgody zdecentralizowanego modelu autoryzacji, a model sztucznej inteligencji, niezależnie od jego mocy, to tylko jeden głos. Ludzie mogą „zablokować” ręce silnej sztucznej inteligencji poprzez inteligentne kontrakty.
Podstawa ważnych decyzji musi być krok po kroku umieszczana w łańcuchu, przejrzysta dla wszystkich, a nawet zamykana krok po kroku za pomocą inteligentnych kontraktów, wymagających zatwierdzenia każdego kroku naprzód.
Kluczowe dane muszą być przechowywane w łańcuchu i nie można ich później niszczyć, dając ludziom i innym modelom silnej sztucznej inteligencji możliwość analizowania, uczenia się i podsumowywania doświadczeń i wniosków.
System dostaw energii, na którym opiera się silna sztuczna inteligencja, jest zarządzany za pomocą inteligentnych kontraktów typu blockchain. W razie potrzeby ludzie mają możliwość odcięcia systemu i wyłączenia sztucznej inteligencji za pomocą inteligentnych kontraktów.
Pomysłów jest zdecydowanie więcej, więc nie będę się tutaj rozpisywać.
Bardziej abstrakcyjna i filozoficzna myśl: rywalizacja w technologii, a nawet w cywilizacji może ostatecznie przerodzić się w rywalizację w poziomach energii, kto będzie w stanie wysłać i skoncentrować większą ilość energii, aby osiągnąć cel. Silna sztuczna inteligencja zasadniczo przekształca energię w moc obliczeniową, a moc obliczeniowa w inteligencję. Istotą inteligencji jest energia prezentowana w postaci mocy obliczeniowej. Istniejące mechanizmy bezpieczeństwa opierają się zasadniczo na ludzkiej woli, dyscyplinie i zasadach autoryzacji organizacji ludzkich. Są to mechanizmy o bardzo niskim poziomie energii i w dłuższej perspektywie będą podatne na działanie silnej sztucznej inteligencji. Włócznię zbudowaną o wysokim poziomie energii obliczeniowej można obronić jedynie tarczą zbudowaną o wysokim poziomie energii mocy obliczeniowej. Blockchain i systemy kryptograficzne są tarczą mocy obliczeniowej, agresorzy muszą spalić energię całej galaktyki, aby brutalnie ją złamać. W zasadzie tylko takie systemy są w stanie oswoić silną sztuczną inteligencję.
5. Wniosek
Blockchain jest przeciwieństwem sztucznej inteligencji pod wieloma względami, zwłaszcza jeśli chodzi o orientację na wartości. Większość technologii na świecie jest zorientowana na poprawę wydajności, a tylko kilka technologii jest nastawionych na promowanie uczciwości. Podczas rewolucji przemysłowej maszyna parowa reprezentowała pierwszą, mechanizm rynkowy drugą. Dziś silna sztuczna inteligencja jest najjaśniejszą frakcją wśród frakcji efektywności, a blockchain jest mistrzem sprawiedliwego przepływu.
Blockchain nastawiony jest na poprawę uczciwości, nawet kosztem zmniejszenia wydajności. Jest to taka technologia, która jest sprzeczna ze sztuczną inteligencją i dokonała przełomu niemal w tym samym czasie co sztuczna inteligencja. W 2006 roku Geoffrey Hinton opublikował wieloletnią pracę, w której implementował algorytm transmisji odwrotnej w wielowarstwowej sieci neuronowej, przezwyciężając problem „zanikającego gradientu”, który nękał szkołę sztucznych sieci neuronowych od wielu lat, i otworzył drzwi do głębokich uczenie się. Dwa lata później Satoshi Nakamoto opublikował 9-stronicowy artykuł o Bitcoinie, otwierając nowy świat blockchain. Nie ma znanego związku między nimi, ale w dużych skalach czasowych występują one niemal jednocześnie.
Historycznie rzecz biorąc, nie może to być przypadkowe. Jeśli nie jesteś kompletnym ateistą, być może możesz spojrzeć na to w ten sposób: dwieście lat po rewolucji przemysłowej Bóg technologii po raz kolejny podwoił równowagę „wydajności” i „uczciwości” i wypuścił silną sztuczną inteligencję w butelka W tym samym czasie co elfy przekazują ludziom księgę zaklęć, aby kontrolować te elfy. To jest blockchain. Wkrótce wkroczymy w ekscytującą erę, a to, co się w niej wydarzy, sprawi, że przyszli ludzie będą patrzeć na nas dzisiaj tak, jak my dzisiaj patrzymy na prymitywnych ludzi z epoki kamienia.