Exponenciální technologie změní náš svět navždy. To je náš názor, jako technisté.
Nyní je vždy dobré mít kontrolu zdravého rozumu, nebo alespoň poslouchat kontrastní pohled. We reached out to Daron Acemoglu, who is an Institute Professor of Economics at the Massachusetts Institute of Technology (MIT), a best-selling author, a world-know speaker, and the recipient of several prestigious prizes, among which the John Bates Clark Medaile v roce 2005, každá dva roky, nejlepší ekonom ve Spojených státech mladších 40 let, americkou ekonomickou asociací. Jeho životopis je působivý a Acemoglu je dnes jedním z nejvíce citovaných ekonomů na planetě.
Toto je výměna s Maestrem.
Jaké exponenciální technologie podle vás změní náš svět do roku 2030 – mezi Blockchainem, AI, Spatial Computing, Quantum?
Těžko říct. Všechny tyto jsou velmi medializované. Které technologie budou vzkvétat a najdou působivé aplikace, se teprve uvidí. Nevěřím, že blockchain má potenciál mít všudypřítomné účinky, s výjimkou několika úzkých aplikací. AI je jiný příběh. I když je mnoho z toho, co se o umělé inteligenci píše a říká, přehání, není pochyb o tom, že umělá inteligence se rychle vyvíjí a je zaváděna v mnoha odvětvích. Právě na tomto základě očekávám, že to ovlivní mnoho odvětví ekonomiky, včetně sociálních médií, komunikace a řízení lidských zdrojů. Zda dokáže proniknout do dalších aktivit, jako jsou finance, právo, školství a zdravotnictví, se teprve uvidí. Ještě důležitější je, že i když se stane široce používán v odvětvích, jako je vzdělávání a zdravotnictví, existuje velký rozdíl mezi dobrým a špatným použitím. Je například snadné zavést ChatGPT pro miliony studentů a povzbudit je, aby se učili od chatbota, nikoli od svých učitelů. Ujistit se, že se učí správný materiál a učí se efektivně, je mnohem těžší.
Umělá inteligence je zemí věrohodných, ale prozatím ne ziskových. Jaký je obchodní model, aby byla technologie AI finančně zdravá pro všechny?
Řekl bych to jinak. Právě teď je jediným místem, kde lze AI ziskově využít, sociální média a aktivity typu vyhledávání, a dokonce i jejich zisky mohou pocházet z manipulativního použití (hluboké padělky, rozsáhlé shromažďování informací, porušování autorských práv atd.). Klíčovou otázkou je, zda dokážeme najít společensky prospěšný směr umělé inteligence, kde je nasazena vytlačená technologie pro poskytování lepších informací lidem, aby se mohli lépe rozhodovat a být schopni provádět sofistikovanější úkoly. To je nejasné a bohužel to není oblast, o kterou má průmysl velký zájem.
Nevidím, že by se technologická a kulturní transformace společnosti a ekonomiky odehrávala bez revize našich vlastnických práv; konkrétně potřebuji vlastnit své lékařské záznamy nebo digitální agenturu a dostat za to kompenzaci, pokud AI nebo jiné technologické zásobníky budou tato (má) data používat k učení a poskytování lepších produktů a služeb společnosti jako celku. Vidíte, že se to děje? Dokáže například Meta, Alphabet nebo Microsoft přijmout fakt, že budou muset platit více akcionářům než dnes? Je to iluze?
Absolutně. Data jsou pro umělou inteligenci zásadním vstupem a v současné době neexistuje ani trh s daty, ani vlastnická práva k datům, ani pobídky pro lidi, aby vytvářeli vysoce kvalitní data. To je jak nespravedlivé (lidé se kradou data), tak neproduktivní (modely umělé inteligence se trénují na nekvalitních datech, což přispívá k halucinacím a dalším problémům dostupných modelů). Řešení musí zahrnovat datové trhy a vlastnická práva k datům. Ale je to složité, protože individuální vlastnická práva nebudou fungovat. Miliardy lidí produkují cenná data, ale transakce s miliardami lidí by byly neúměrně nákladné. A co je důležitější, spousta lidí produkuje vysoce nahraditelná data (každý dokáže rozpoznat kočku, takže platformy mohou hrát jednu skupinu uživatelů proti druhé, aby snížily cenu dat). Potřebujeme tedy novou infrastrukturu pro datové trhy s kolektivním vlastnictvím dat, například stejným způsobem, jakým Writers Guild of America hraje roli prostředníka chránícího práva kreativních umělců a navozující určitý typ kolektivního vlastnictví.
Myslíte si, že finanční a bankovní systém v určitém okamžiku přijme krypto, nebo dokonce jen bitcoin? Jaký je váš názor na budoucnost finančního systému, který by měl být otevřený pro všechny a kde by se finanční poplatky měly stát komoditou, totiž rovnou nule?
Doufám, že ne. Právě teď jsou kryptoměny cenné ze tří jednoduchých důvodů: umožňují nezákonné aktivity; existuje určitá prémie, protože pokud se jeden z nich stane široce uznávaným, společnost, která ho má na starosti, by pohádkově zbohatla; a v mnoha kryptoměnách existuje složka bubliny, přičemž důvěřiví investoři jsou někdy povzbuzováni k tomu, aby za některé měny platili nadměrné ocenění. Žádný z těchto zdrojů ocenění není společensky prospěšný. Můj názor je, že kryptoměny by mohly být užitečné za určitých velmi úzkých okolností, ale měly by být velmi přísně regulovány.
Myslíte si, že udržitelnost měla doposud špatný marketing? Neměli bychom si povídat o celkové technologické a marketingové transformaci světa, kde se svět řídí efektivněji? Měli by se zastánci udržitelnosti dívat na technologie jako na jediný způsob, jak učinit tento svět méně náročným na zdroje a méně zaujatým, a přestat mluvit o ESG jako o samostatné položce na našem seznamu úkolů?
ESG je mišmaš mnoha různých věcí, velmi špatně specifikovaných. Právě teď to jen umožňuje manažerům dělat, co chtějí. Investoři, kterým záleží na sociálním dobru, musí být důležitou součástí tržní ekonomiky 21. století. Například se domnívám, že tlak investorů na společnosti vyrábějící fosilní paliva by mohl být docela účinný. To však vyžaduje velmi jasný soubor pokynů s měřitelnými metrikami. V případě uhlíkových emisí to můžeme udělat. Takže bych preferoval opustit ESG a zaměřit se na uhlík a možná některé další důležité otázky, jako jsou pracovní postupy (například zda společnosti vytvářejí vysoce nebezpečné prostředí pro pracovníky nebo vyvíjejí nátlak na své zaměstnance).
Zákon EU o umělé inteligenci se zdá být jediným nařízením s určitou podstatou na celém světě. Díváme se na svět, kde budou práva jednotlivců obětována ve jménu pokroku, když se podíváme na případ USA a Číny? Kdo stanoví pokyny, co by AI měla dělat?
Ano absolutně, to je skutečné nebezpečí a Čína zde pravděpodobně nebude hrát vedoucí roli. Čínská vláda je největším sběratelem dat. Čínská komunistická strana pravděpodobně nebude mít zájem o ochranu práv jednotlivců a vývoj technologického průmyslu v Číně v posledních dvou desetiletích vytvořil kulturu, v níž se normalizovalo shromažďování a sledování rušivých dat. Američtí regulátoři jsou stále velmi oddáni rozmarům a přáním technologického průmyslu. Dosavadní vůdčí postavení pro kontrolu nekalých praktik v AI a obecně v technologickém průmyslu musí přijít z Evropy. To není udržitelné, pokud se samotná Evropa nestane velkým hráčem na poli umělé inteligence, a nezdá se, že by to bylo snadné. Doufáme, že americké politické kyvadlo se přehoupne ve prospěch robustnější regulace a menšího vlivu technologických společností na politiku, a mezitím se Evropa začne stávat inovátorem, nikoli pouze regulátorem AI.
Jste optimističtí nebo pesimisté ohledně budoucnosti světa?
Ani. Je možné používat AI způsobem pro pracovníky. Je možné využít AI k podpoře demokracie a lepší komunikace. Je možné používat AI v souladu s individuálními právy, soukromím a individuální autonomií. Ale ne, tímto směrem se nevydáme. Pokud tedy věřím, že nedojde k žádnému zásadnímu přesměrování technologií a žádné velké změně institucí ve Spojených státech a jinde, byl bych velmi pesimistický. Ale lpím na naději, že je možné, abychom provedli korekci kurzu, ovládli technologické giganty a začali investovat do umělé inteligence, která je pro lidi dobrá (a v tomto procesu také opustíme bláznivé sny o umělé obecné inteligenci a zneškodníme sami sebe naší pokračující důvěry technologických gigantů).