Náklady na trénování modelů umělé inteligence (AI) raketově rostou a projekce naznačují výrazný nárůst v příštích několika letech. Dario Amodei, generální ředitel AI startupu Anthropic, upozornil na tyto rostoucí výdaje během nedávné epizody podcastu „In Good Company“.

Čtěte také: Zaměstnanci Samsungu stávkují a požadují vyšší mzdy během rostoucí konkurence AI

Současné pokročilé modely umělé inteligence, jako je ChatGPT-4, vyžadují trénování kolem 100 milionů dolarů. Ale podle Amodei by to mohlo v příštích třech letech vzrůst na 10 až 100 miliard dolarů. 

Vývoj umělé inteligence zvyšuje náklady

Prudký nárůst je způsoben přechodem od generativní umělé inteligence, jako je ChatGPT, k umělé obecné inteligenci (AGI). Pokrok směrem k AGI se snaží vyvinout systémy, které mohou porozumět, získat a využít znalosti podobným způsobem jako lidská mysl.

„Myslím, že pokud půjdeme na 10 nebo 100 miliard dolarů, a myslím, že se to stane v roce 2025, 2026, možná 2027... pak si myslím, že je velká šance, že do té doby budeme schopni získat modely, které jsou lepší než většina lidí na většinu věcí." 

Amodei

Podle Tom’s Hardware je stávající rámec pro tato vylepšení v současnosti masivní. Například pro trénování ChatGPT bylo potřeba přes 30 000 GPU a každý čip Nvidia B200 AI stojí mezi 30 000 a 40 000 $. Tato hardwarová investice je jedním z prvků, které mohou způsobovat zvýšené náklady. 

Výpočetní zdroje zvyšují náklady na školení AI

Existuje několik důvodů, proč náklady na školení pro AI rostou. Hlavním důvodem je, že množství potřebných výpočetních zdrojů je obrovské. S pokrokem v modelech hlubokého učení jsou zapotřebí výkonné GPU a další speciálně navržený hardware. V roce 2023 bylo do datových center dodáno více než 3,8 milionů GPU, což dokládá rozsah požadované infrastruktury. 

Čtěte také: Umělá inteligence ovlivní širokou škálu veřejných služeb

Dalším důležitým faktorem je spotřeba energie. Spotřeba energie všech GPU prodaných v loňském roce by stačila na napájení 1,3 milionu domácností. Tato vysoká spotřeba energie vede nejen k vysokým nákladům pro podnikání, ale také vyvolává problémy s dopady na životní prostředí a zachování.   Podle nedávné zprávy společnosti Google se emise společnosti za čtyři roky zvýšily o téměř 50 %, především kvůli energii potřebné pro učení AI.

Techničtí giganti investují značné prostředky do infrastruktury AI

Přední technologické firmy navíc investují spoustu peněz do rozvoje umělé inteligence. Například Elon Musk chce koupit 300 000 nejmodernějších AI čipů Nvidia. Stejně tak Microsoft a OpenAI údajně pracují na datovém centru za 100 miliard dolarů pro rozvoj AI.

Čtěte také: Wimbledon využívá AI k boji proti online zneužívání

Navzdory těmto rostoucím nákladům existují pokusy o optimalizaci nákladů na školení AI. DeepMind společnosti Google nedávno představil techniku ​​nazvanou JEST (Joint Example Selection), která tvrdí, že snižuje počet iterací faktorem 13 a výpočetní zdroje potřebné faktorem 10. To pomáhá zkrátit použité zdroje a čas. být vzat.

I přes tyto pokroky však celkový směr směřuje k vyšším nákladům díky pokroku AGI. Od generativní umělé inteligence po AGI se vyžaduje, aby modely interpretovaly velké soubory dat, učily se z nich, předvídaly různé situace a řešily problémy, které vyžadují kritické myšlení. 

Cryptopolitan Reporting od Brenda Kanana