Spoluzakladatel Etherea Vitalik Butertin se podělil o svůj pohled na „superinteligentní“ umělou inteligenci (AI) a označil ji za „rizikovou“ v reakci na probíhající změny ve vedení OpenAI.
19. května Cointelegraph oznámil, že bývalý vedoucí oddělení OpenAI Jan Leike rezignoval poté, co řekl, že dosáhl „bodu zlomu“ s vedením v hlavních prioritách společnosti.
Leike tvrdil, že „kultura bezpečnosti a procesy ustoupily do pozadí lesklých produktů“ v OpenAI, přičemž mnozí poukazují na vývoj kolem umělé obecné inteligence (AGI).
Očekává se, že AGI bude typem umělé inteligence, který se rovná nebo překonává lidské kognitivní schopnosti – myšlenka na kterou již začala znepokojovat odborníky z oboru, kteří říkají, že svět není náležitě vybaven ke správě takových superinteligentních systémů umělé inteligence.
Zdá se, že tento sentiment je v souladu s Buterinovými názory. V příspěvku na X sdílel své aktuální myšlenky na toto téma a zdůraznil, že bychom neměli spěchat do akce nebo tlačit zpět proti těm, kteří se o to snaží.
Zdroj: Vitalik Buterin
Buterin zdůraznil otevřené modely, které běží na spotřebním hardwaru jako „zajištění“ proti budoucnosti, kde by malý konglomerát společností byl schopen číst a zprostředkovat většinu lidských myšlenek.
"Takové modely jsou také mnohem nižší z hlediska rizika zkázy než jak korporátní megalomanie, tak armády."
Toto je jeho druhý komentář za poslední týden o AI a jejích rostoucích schopnostech.
16. května tvrdil, že model GPT-4 OpenAI již překonal Turingův test, který určuje „lidskost“ modelu AI. Citoval nový výzkum, který tvrdí, že většina lidí nedokáže dešifrovat, když mluví se strojem.
Související: Nová funkce stažení „Black Mirror“ společnosti Microsoft zaznamenává vše, co děláte
Buterin však není první, kdo tuto obavu vyjádřil. Vláda Spojeného království také nedávno prozkoumala rostoucí zapojení Big Tech v sektoru AI, což vyvolalo problémy související s konkurencí a dominancí na trhu.
Na internetu se již objevují skupiny jako 6079 AI, které obhajují decentralizovanou AI, aby se zajistilo, že zůstane více demokratizované a nebude dominovat Big Tech.
Zdroj: 6079.ai
Stalo se tak po odchodu dalšího vysoce postaveného člena vedoucího týmu OpenAI dne 14. května, kdy Ilya Sutskever, spoluzakladatel a hlavní vědec, oznámil svou rezignaci.
Sutskever nezmínil žádné obavy ohledně AGI. Ve svém příspěvku na X však vyjádřil přesvědčení, že OpenAI vyvine AGI, které bude „bezpečné a přínosné“.
Časopis: ‚Sic AIs on each other‘, aby se zabránilo apokalypse AI: David Brin, autor sci-fi