Roman Yampolsky, odborník na bezpečnost AI, nesouhlasí s nedávným hodnocením Elona Muska, že existuje pouze 10-20% šance, že AI zabije lidstvo.
Zahubí umělá inteligence nakonec lidstvo? V závislosti na tom, se kterým odborníkem na kybernetickou bezpečnost mluvíte, se šance velmi liší, ale jeden odborník má rozhodně chmurný nebo spíše apokalyptický názor, který Elon Musk nesdílí.
Business Insider informoval o odhaleních z nedávného Summitu Abundance (minulý měsíc), kde během „Velké debaty o AI“ Musk odhadl riziko, že AI ukončí lidstvo, asi na 10 % nebo 20 %. Je zřejmé, že je to něco jako psychický odhad, ale celková podstata miliardářské filozofie je, že bychom měli pokročit ve vývoji s využitím umělé inteligence, protože pravděpodobné pozitivní výsledky převažují nad jakýmkoli negativním scénářem.
Elon Musk věří ve světlou budoucnost lidstva, kde umělá inteligence pomáhá lidem a nesnaží se nás zničit.
V Muskově hodnocení není zmíněno, že negativní scénář, který riskujeme, je zničení celého lidstva. To pravděpodobně silně naklání misky vah proti pozitivnímu dopadu chatbotů. V každém případě Muskovu teorii pravděpodobnosti rozhodně nesdílí Roman Yampolsky, ředitel Laboratoře kybernetické bezpečnosti na University of Louisville, odborník na bezpečnost AI a autor mnoha knih na toto téma.
Yampolsky vyjádřil názor, že Musk je konzervativní a pravděpodobnost fatálního výsledku, kdy AI ukončí lidstvo, nebo nás zotročí, nebo podobný nemyslitelný scénář, je mnohem vyšší než 20 %. Jaká je tedy podle ruského vědce-experta pravděpodobnost smrti? Možná vás nebude zajímat, že Yampolsky odhaduje tuto pravděpodobnost na 99,999999 %. Což ovšem znamená téměř stoprocentní jistotu.
Ruský bezpečnostní expert se snaží oslovit nás všechny a vzbudit velmi vážné obavy ohledně vývoje umělé inteligence, spíše než jen předpovídat blížící se zkázu lidstva. Ale tyto obavy musí být extrémně přesvědčivé, aby učinil tak zlověstné hodnocení. Základní filozofií Yampolsky je, že vzhledem k tomu, že dostatečně pokročilou umělou inteligenci nebude možné ovládat, jakmile bude vytvořena, nejlepší možností je nyní podniknout kroky, aby se taková AI neobjevila. Každý samozřejmě chápe, odkud tento úhel pohledu pochází.
Optimističtější zpráva uvádí, že pravděpodobnost našeho zániku z umělé inteligence se podle předních techniků ze Silicon Valley pohybuje od 5 % do 50 %. I 50procentní šance na apokalypsu je důvodem k obavám, buďme upřímní. Kdyby vám byla nabídnuta pilulka a řekli byste, že máte 50% šanci získat nadlidské schopnosti nebo 50% šanci, že okamžitě zemřete, vzali byste si ji? Myslíme si, že bychom odmítli, ale jsou tací, kteří by mohli být ochotni podstoupit takové riziko.
#BullorBear #BinanceLaunchpool #TwitterCryptoRevolution #ElonMuskTalks #GPT-4