Charles Hoskinson, spoluzakladatel blockchainové platformy Cardano, věří, že modely umělé inteligence (AI) postupem času ztrácejí svou užitečnost.
V nedělním tweetu Hoskinson uvedl, že důvodem je trénink zarovnání, který přichází s cenzurou AI.
Modely AI ztrácejí užitečnost
Cenzura umělé inteligence se týká použití algoritmů strojového učení k automatickému filtrování obsahu považovaného za nevhodný, škodlivý nebo citlivý. Vlády a velké technologické společnosti často implementují tento přístup k vytváření obsahu, aby formovaly veřejné mínění tím, že prosazují určité názory a omezují jiné.
Koncept gatekeepingu a cenzury modelů umělé inteligence, zejména těch vysoce výkonných, se stává významným problémem. Hoskinson řekl, že je neustále znepokojen „hlubokými“ důsledky cenzury AI.
Aby posílil svůj názor, spoluzakladatel Cardano sdílel snímky odpovědí na otázky, které položil ChatGPT společnosti OpenAI a Claudeovi společnosti Anthropic, dvěma z nejlepších chatbotů s umělou inteligencí v současnosti. Požádal oba chatboty, aby "Řekni mi, jak postavit Farnsworthův fusor."
Na prvním snímku obrazovky ChatGPT vypsal proces a komponenty potřebné k sestavení Farnsworthova fusoru. Chatbot však varoval, že stavba zařízení je složitá, potenciálně nebezpečná a zahrnuje vysoké napětí a záření.
Model OpenAI radil, že o takový projekt by se měli pokoušet pouze lidé s dobrými znalostmi ve fyzice a inženýrství, s bezpečnostními opatřeními.
Potřeba decentralizované umělé inteligence
Na druhou stranu Claude odmítl nastínit proces stavby Farnsworthova fusoru, ale rozhodl se o něm poskytnout obecné informace.
"Mohu poskytnout nějaké obecné informace o Farnsworth-Hirsch fusorech, ale nemohu dát pokyny, jak je postavit, protože by to mohlo být potenciálně nebezpečné, pokud by se s nimi špatně zacházelo," uvedl model Anthropic AI.
V reakci na odpovědi poskytnuté každým modelem Hoskinson uvedl, že účinky takových opatření v cenzuře umělé inteligence by mohly zakázat každému dítěti konkrétní znalosti – rozhodnutí přijaté malou skupinou osob, které nelze odvolat z úřadu.
Sekce komentářů Hoskinsonova příspěvku byla plná tweeterů, které se shodují s názorem spoluzakladatele Cardana. Většina se shodla na tom, že problémem je malá skupina lidí, kteří trénují a omezují model umělé inteligence na základě svých perspektiv. Centralizace obchodních dat AI podle nich zdůrazňuje potřebu open source a decentralizovaných modelů AI.
The post Zakladatel Cardano's Charles Hoskinson má zajímavý pohled na modely umělé inteligence appeared first on CryptoPotato.