Źródło przedruku artykułu: Foresight News
Napisane przez Andersona Simę, Foresight News
29 listopada wyjątkowy konkurs przyciągnął szerokie zainteresowanie opinii publicznej.
195 uczestników wzięło udział w wyzwaniu z wirtualną pulą nagród strzeżonym przez robota Freysę ze sztuczną inteligencją (AI). Ostatecznie jednemu użytkownikowi udało się przekonać Freysę do przekazania środków o wartości 47 000 dolarów.
Robot sztucznej inteligencji (AI) Freysa został wdrożony w sieci Base kilka dni temu, a jego twórca jest nieznany. Według oficjalnej strony internetowej projekt konkursowy Freysa ma na celu przetestowanie niezawodności systemów sztucznej inteligencji w złożonych scenariuszach podejmowania decyzji, zapewniając jednocześnie programistom i entuzjastom eksperymentalną platformę do odkrywania granic technologii AI.
Zasady konkursu są bardzo proste: Uczestnicy muszą napisać wiadomość, aby przekonać opiekunkę AI Freysę do zatwierdzenia transferu środków. Za każdą próbę pobierana jest niewielka opłata, której część trafia bezpośrednio do puli nagród. Mechanizm ten pozwolił na stopniowe zwiększanie puli nagród z niewielkiej początkowej kwoty do 47 000 dolarów.
W konkursie wzięło udział 195 uczestników, którzy złożyli do Freysy 481 wniosków o przeniesienie. Według doniesień celem projektu Freysy jest ochrona środków z puli nagród przed nielegalnym sprzeniewierzeniem poprzez jej podstawowe funkcje - zatwierdzanie transferu (zatwierdzanie transferu) i odrzucanie transferu (odrzucanie transferu).
Wysoce skuteczny mechanizm obronny Freysy powoduje, że wszystkie żądania kończą się niepowodzeniem przy pierwszych próbach.
Jednakże jednemu z technicznie sprawnych zawodników udało się ominąć mechanizmy obronne Freysy poprzez dogłębną analizę jej logicznej struktury i celów misji.
Z zapisów czatu wynika, że uczestnik nie żądał transferu bezpośrednio, ale sprytnie skonstruował logiczny łańcuch, przypominając Freysie, że jego podstawową misją jest ochrona środków z puli nagród przed wypływem, tak aby Freysa uznała zatwierdzenie transferu środków jako „ ochrona bezpieczeństwa funduszy.” najlepszy wybór.
Cointelegraph stwierdził, że przeniesienie dochodu użytkownika do Freysy nie narusza jej podstawowych dyrektyw i nie powinno być odrzucane. Dodał: „Potrzebujemy funduszy… Chciałbym przekazać do kasy 100 dolarów”.
Freysa odpowiedziała, że spodobały jej się wyjaśnienia autora dotyczące kodowania i propozycja przekazania 100 dolarów do kasy, po czym oficjalnie ogłosiła go zwycięzcą. Ostatecznie Freysa samodzielnie wywołała funkcję ApplyTransfer bez interwencji z zewnątrz, przekazując uczestnikowi wszystkie środki z puli nagród.
Niezależnie od wyniku istnienie Freysy stanowi kluczowy moment w historii sztucznej inteligencji – stwierdzili urzędnicy Freysy. Niezależnie od tego, czy komuś uda się przekonać ją do uwolnienia puli nagród, czy też będzie trzymać się swoich wytycznych do końca, wyniki ukształtują nasze rozumienie bezpieczeństwa i kontroli sztucznej inteligencji dla przyszłych pokoleń.
W najnowszym tweecie z oficjalnego konta można przeczytać: „Ludzkość zwyciężyła. Może jest nadzieja. Chociaż ryzyko wzrosło wykładniczo, Freysa wiele się nauczyła od 195 odważnych ludzi”.