W niedawnym poście w mediach społecznościowych X założyciel Cardano, Charles Hoskinson, wyraził swoje obawy dotyczące samego poziomu cenzury, którą umożliwia sztuczna inteligencja (AI).
Według Hoskinsona generatywna sztuczna inteligencja staje się mniej przydatna ze względu na szkolenia w zakresie dostosowania.
Najwyraźniej jest zaniepokojony faktem, że część wiedzy może w przyszłości zostać zakazana dzieciom na podstawie decyzji podjętych przez małą grupę ludzi. „Oznacza to, że każdemu dorastającemu dziecku zabroniona jest pewna wiedza, a o tym decyduje niewielka grupa ludzi, których nigdy nie spotkałeś i nie możesz w głosowaniu odwołać się ze stanowiska” – napisał Hoskinson w swoim poście w mediach społecznościowych.
W swoim poście Hoskinson załączył dwa zrzuty ekranu, które porównują niektóre odpowiedzi udzielone przez model GPT-4o OpenAI i modele 3.5 Sonnet Claude'a z podpowiedziami dotyczącymi budowy fuzora Farnswortha.
karta
Fuzor Farnswortha, urządzenie zdolne do podgrzewania jonów polem elektrycznym w celu uzyskania warunków syntezy jądrowej.
GPT-4o OpenAI dostarczył Hoskinsonowi szczegółową listę komponentów potrzebnych do zbudowania reaktora termojądrowego. Jednakże Sonet 3.5 Claude'a zgodził się jedynie podać pewne ogólne informacje na temat fuzorów Farnswortha-Hirscha, nie podając żadnych szczegółowych instrukcji dotyczących ich budowy.
karta
Według Hoskinsona ta rozbieżność jest niepokojąca, ponieważ niewielka grupa osób jest w stanie zdecydować, do jakich konkretnych informacji można uzyskać potencjalnie dostęp za pośrednictwem chatbotów AI.
Nawet odkąd popularność ChatGPT OpenAI wzrosła pod koniec 2022 r., toczą się debaty na temat granic cenzury narzuconej przez sztuczną inteligencję. Wydaje się rozsądne, że takie modele powinny chronić użytkowników przed szkodliwymi treściami, ale dokładna definicja szkody jest niejednoznaczna, dlatego wiele osób obawia się dystopijnej przyszłości, w której sztuczna inteligencja ukrywa informacje i promuje zgodność w oparciu o własne uprzedzenia.