Potenciál umělé inteligence být víc než jen další technologický pokrok, který představuje rizika, která nemůžeme ignorovat.
#VitalikButerin , spoluzakladatel Etherea, vydal ostré varování před #Artificial_Intelligence (AI).
Nesdružuje #AI s běžnými technologickými pokroky, jako jsou chytré telefony nebo sociální média. Místo toho #Buterin řadí umělou inteligenci do vlastní kategorie kvůli jejímu potenciálu způsobit revoluci ve společnosti (podobně jako to udělal tiskařský lis nebo kolo).
Zvrat? Umělá inteligence by nás mohla všechny přechytračit a potenciálně se stát dominantní silou na Zemi. Je to skok do neprobádaného území.
Hrozba superinteligentní AI
Buterinovy obavy přesahují typické technologické obavy. Varuje, že superinteligentní AI by mohla vnímat lidi jako hrozbu, což by vedlo ke katastrofickým následkům.
A není to problém vzdálené budoucnosti – AI se rychle vyvíjí. I když bychom v ideálním případě chtěli, aby tyto superinteligentní bytosti byly našimi spojenci, naprogramovat je tak, aby bezpečně koexistovaly s lidmi, je problém, který jsme dosud nevyřešili. Může to znít jako sci-fi, ale je to téma, které se v technických kruzích bere vážně. Rob Bensinger z MIRI ilustruje různé názory na úroveň ohrožení AI.
Průzkum z roku 2022 mezi odborníky na strojové učení ukázal, že 5–10% pravděpodobnost, že AI povede k vyhynutí lidstva, je překvapivým odhalením.
Přestože to zní spekulativně, tyto obavy existují již více než deset let a zaslouží si pozornost.
Představte si budoucnost s AI
Buterin nás také vyzývá, abychom zvážili, jaký by byl život ve světě ovládaném umělou inteligencí. Odkazuje na sérii Kultura Iaina Bankse, kde lidé koexistují s mocnými AI.
Tato představovaná budoucnost nabízí dlouhověkost, zdraví a zábavu, ale za potenciální cenu – lidé nemusí mít kontrolu.
To vyvolává zásadní otázku o naší budoucí koexistenci s umělou inteligencí: Budeme partnery, nebo pouze pasažéry ve světě poháněném strojovou inteligencí?