Nesenā intervijā Sequoia Capital's Training Data aplādei Microsoft CTO Kevins Skots atkārtoti pauda pārliecību par lielo valodu modeļu (LLM) mērogošanas likumu pastāvīgo vērtību.
Lasiet arī: AI lietotnes, kurās ir “drošības etiķetes”, kas izceļ riskus un testēšanu
Skots, kuram bija liela loma 13 miljardu dolāru darījumā starp Microsoft un OpenAI, joprojām ir optimistisks par turpmāko progresu. Viņš atbildēja uz notiekošajām debatēm, norādot, ka ideja par likumu mērogošanu joprojām ir svarīga AI jomā.
OpenAI pētījumi atbalsta mērogošanas priekšrocības
OpenAI pētnieku 2020. gadā ierosinātie LLM mērogošanas likumi nosaka, ka valodu modeļu efektivitāte palielinās proporcionāli modeļa lielumam. Skots diskreditēja samazinošas peļņas likumu, sakot, ka joprojām ir iespējams sasniegt eksponenciālu izaugsmi, taču var būt nepieciešamas nākamās superdatoru paaudzes, lai to realizētu.
Lai gan daži zinātnieki apšauba mērogošanas likumu ilgtspējību, OpenAI joprojām paļaujas uz tiem kā galveno sava AI plāna sastāvdaļu. Skota piezīmes saskan ar Microsoft pieeju šiem principiem, kas nozīmē, ka tehnoloģiju gigantam nav nodoma apturēt lielāku AI modeļu izstrādi.
AI kopiena apspriež turpmākos modeļu uzlabojumus
Skota nostāja ir gluži pretēja dažiem AI kritiķiem, kuri domā, ka izaugsme ir apstājusies GPT-4 un citos līdzīgos modeļos. Daži kritiķi ir minējuši jaunākos modeļus, tostarp Google Gemini 1. 5 Pro un Anthropic Claude Opus, jo tie nav uzrādījuši būtiskus uzlabojumus salīdzinājumā ar iepriekšējiem modeļiem. AI kritiķis Gerijs Markuss uzsvēra šo viedokli aprīlī, apšaubot nozīmīgu progresu trūkumu kopš GPT-4 izlaišanas.
Bet tomēr Skots ir optimistisks par jaunu atklājumu iespējamību. Viņš arī pieņēma faktu, ka AI ir maz datu punktu, taču uzsvēra, ka nākotnē tas vairs nebūs aktuāls.
"Tuvojas nākamais paraugs, un es nevaru jums pateikt, kad, un es nevaru precīzi paredzēt, cik labi tas būs, taču tas gandrīz noteikti būs labāks tajās lietās, kas šobrīd ir trauslas."
Kevins Skots
Microsoft lielais finansējums OpenAI ir apliecinājums tās pārliecībai par LLM turpmāko attīstību. Dažas no AI funkcijām ietver Microsoft Copilot, kas liecina, ka uzņēmums vēlas uzlabot AI izmantošanu. AI kritiķis Eds Zitrons sacīja, ka AI zināmā mērā var iestrēgt, jo cilvēki no tā sagaida pārāk daudz.