Mākslīgā intelekta (AI) modeļu apmācības izmaksas strauji pieaug, un prognozes liecina, ka tuvāko gadu laikā tās ievērojami pieaugs. Dario Amodei, AI starta Anthropic izpilddirektors, nesenā aplādes “In Good Company” epizodē uzsvēra šos pieaugošos izdevumus.

Lasiet arī: Samsung darbinieki sāk streiku, pieprasot lielākas algas pieaugošās AI konkurences laikā

Pašreizējo progresīvo AI modeļu, piemēram, ChatGPT-4, apmācībai ir nepieciešami aptuveni 100 miljoni USD. Bet, pēc Amodei domām, nākamajos trīs gados tas varētu pieaugt līdz 10–100 miljardiem USD. 

Vispārējā mākslīgā intelekta attīstība palielina izmaksas

Straujš pieaugums ir saistīts ar pāreju no ģeneratīvā AI, piemēram, ChatGPT, uz mākslīgo vispārējo intelektu (AGI). Virzība uz AGI tiecas izstrādāt sistēmas, kas spēj saprast, iegūt un izmantot zināšanas tādā pašā veidā kā cilvēka prāts.

"Es domāju, ka, ja mēs ejam uz 10 vai 100 miljardiem ASV dolāru, un es domāju, ka tas notiks 2025., 2026., varbūt 2027. gadā… tad es domāju, ka pastāv liela iespēja, ka līdz tam laikam mēs varēsim iegūt modeļus, kas ir labāki par lielākā daļa cilvēku lielākajā daļā lietu. 

Amodejs

Saskaņā ar Tom’s Hardware teikto, pašreizējais šo sasniegumu ietvars ir milzīgs. Piemēram, lai apmācītu ChatGPT, bija nepieciešami vairāk nekā 30 000 GPU, un katra Nvidia B200 AI mikroshēma maksā no 30 000 līdz 40 000 USD. Šis aparatūras ieguldījums ir viens no elementiem, kas var izraisīt palielinātos izdevumus. 

Skaitļošanas resursi palielina AI apmācības izmaksas

Ir vairāki iemesli, kāpēc AI apmācības izmaksas pieaug. Galvenais iemesls ir tas, ka nepieciešamie skaitļošanas resursi ir milzīgi. Līdz ar dziļās mācīšanās modeļu attīstību ir nepieciešami jaudīgi GPU un cita īpaši izstrādāta aparatūra. 2023. gadā uz datu centriem tika piegādāti vairāk nekā 3,8 miljoni GPU, kas parāda nepieciešamās infrastruktūras apjomu. 

Lasiet arī: Mākslīgais intelekts ietekmēs plašu sabiedrisko pakalpojumu klāstu

Vēl viens svarīgs faktors ir enerģijas patēriņš. Visu pagājušajā gadā pārdoto GPU enerģijas patēriņš būtu pietiekams, lai darbinātu 1, 3 miljonus māju. Šis lielais enerģijas patēriņš ne tikai rada lielus izdevumus uzņēmumam, bet arī rada jautājumus par ietekmi uz vidi un saglabāšanu.   Saskaņā ar neseno Google ziņojumu uzņēmuma emisijas četru gadu laikā pieauga par gandrīz 50%, galvenokārt AI mācībām nepieciešamās enerģijas dēļ.

Tehnoloģiju giganti iegulda lielus ieguldījumus AI infrastruktūrā

Turklāt vadošās tehnoloģiju firmas iegulda daudz naudas mākslīgā intelekta attīstībā. Piemēram, Elons Masks vēlas iegādāties 300 000 Nvidia vismodernāko AI mikroshēmu. Tāpat tiek ziņots, ka Microsoft un OpenAI strādā pie 100 miljardu dolāru liela datu centra AI attīstībai.

Lasiet arī: Vimbldona izmanto AI, lai cīnītos pret ļaunprātīgu izmantošanu tiešsaistē

Neskatoties uz šīm pieaugošajām izmaksām, ir mēģinājumi optimizēt AI apmācības izmaksas. Google DeepMind nesen prezentēja paņēmienu, ko sauc par kopīgu piemēru atlasi (JEST), kas apgalvo, ka iterāciju skaits tiek samazināts par koeficientu 13 un nepieciešamie skaitļošanas resursi tiek samazināti par koeficientu 10. Tas palīdz samazināt izmantojamos resursus un laiku. jāņem.

Tomēr pat ar šiem sasniegumiem kopējais virziens ir uz augstākām izmaksām AGI attīstības dēļ. No ģeneratīvas AI līdz AGI modeļiem ir jāinterpretē lielas datu kopas, jāmācās no tām, jāparedz dažādas situācijas un jāatrisina problēmas, kas prasa kritisku domāšanu. 

Brendas Kananas kriptopolītiskie ziņojumi