Вартість навчання моделей штучного інтелекту (AI) стрімко зростає, і прогнози свідчать про значне зростання протягом наступних кількох років. Даріо Амодей, генеральний директор стартапу Anthropic зі штучним інтелектом, підкреслив ці зростаючі витрати під час останнього епізоду подкасту «In Good Company».
Читайте також: Працівники Samsung оголосили страйк, вимагаючи підвищення зарплати в умовах зростаючої конкуренції в сфері штучного інтелекту
Поточні передові моделі штучного інтелекту, такі як ChatGPT-4, потребують близько 100 мільйонів доларів на навчання. Але, за словами Амодея, це може зрости до 10-100 мільярдів доларів протягом наступних трьох років.
Розробка штучного інтелекту підвищує витрати
Різке зростання пов’язане з переходом від генеративного ШІ, такого як ChatGPT, до штучного загального інтелекту (AGI). Прогрес у напрямку AGI спрямований на розробку систем, які можуть осягати, здобувати та використовувати знання у спосіб, подібний до людського розуму.
«Я думаю, що якщо ми досягнемо 10 або 100 мільярдів доларів, і я думаю, що це станеться в 2025, 2026, можливо, 2027… тоді я думаю, що є хороший шанс, що до того часу ми зможемо отримати моделі, які будуть кращими, ніж більшість людей у більшості речей».
Амодей
Відповідно до Tom’s Hardware, існуюча структура для цих досягнень на даний момент є величезною. Наприклад, щоб навчити ChatGPT, було потрібно понад 30 000 графічних процесорів, а кожен чіп Nvidia B200 AI коштує від 30 000 до 40 000 доларів. Ця інвестиція в апаратне забезпечення є одним із елементів, які можуть бути причиною збільшення витрат.
Обчислювальні ресурси збільшують витрати на навчання ШІ
Є кілька причин, чому вартість навчання ШІ зростає. Основна причина полягає в тому, що необхідна величезна кількість обчислювальних ресурсів. З удосконаленням моделей глибокого навчання потрібні потужні графічні процесори та інше спеціально розроблене обладнання. У 2023 році в центри обробки даних було поставлено понад 3,8 мільйона графічних процесорів, що свідчить про масштаби необхідної інфраструктури.
Читайте також: Штучний інтелект впливатиме на широкий спектр державних послуг
Ще один важливий фактор - енергоспоживання. Енергоспоживання всіх графічних процесорів, проданих минулого року, вистачить для живлення 1,3 мільйона будинків. Таке високе споживання енергії не тільки призводить до великих витрат для бізнесу, але й піднімає питання про вплив на навколишнє середовище та збереження. Згідно з нещодавнім звітом Google, викиди компанії зросли майже на 50% за чотири роки, головним чином через енергію, необхідну для навчання ШІ.
Технічні гіганти вкладають значні кошти в інфраструктуру ШІ
Крім того, провідні технологічні фірми інвестують багато грошей у розвиток штучного інтелекту. Наприклад, Ілон Маск хоче придбати 300 000 найсучасніших чіпів AI від Nvidia. Подібним чином кажуть, що Microsoft і OpenAI працюють над центром обробки даних вартістю 100 мільярдів доларів для розвитку ШІ.
Читайте також: Вімблдон використовує ШІ для боротьби з онлайн-зловживаннями
Незважаючи на ці зростаючі витрати, існують спроби оптимізувати витрати на навчання ШІ. Компанія Google DeepMind нещодавно представила техніку під назвою Joint Example Selection (JEST), яка, як стверджується, зменшує кількість ітерацій у 13 разів, а необхідні обчислювальні ресурси – у 10 разів. Це допомагає скоротити ресурси, які потрібно використовувати, і час бути прийнятим.
Однак, навіть з цими досягненнями, загальний напрямок спрямований на підвищення витрат через розвиток AGI. Від генеративного ШІ до AGI, моделі потрібні для інтерпретації великих наборів даних, навчання з них, передбачення різних ситуацій і вирішення проблем, які вимагають критичного мислення.
Cryptopolitan Reporting Бренда Канана