Стоимость обучения моделей искусственного интеллекта (ИИ) стремительно растет, и прогнозы предполагают значительный рост в течение следующих нескольких лет. Дарио Амодей, генеральный директор AI-стартапа Anthropic, подчеркнул эти растущие расходы в недавнем выпуске подкаста «In Good Company».
Читайте также: Рабочие Samsung объявили забастовку, требуя повышения заработной платы в условиях растущей конкуренции в сфере искусственного интеллекта
Для обучения нынешним передовым моделям искусственного интеллекта, таким как ChatGPT-4, требуется около 100 миллионов долларов. Но, по мнению Амодеи, в ближайшие три года эта сумма может вырасти до $10–100 млрд.
Развитие общего искусственного интеллекта приводит к росту затрат
Резкий рост обусловлен переходом от генеративного ИИ, такого как ChatGPT, к общему искусственному интеллекту (AGI). Прогресс в направлении ОИИ направлен на разработку систем, которые смогут понимать, приобретать и использовать знания аналогично человеческому разуму.
«Я думаю, что если мы достигнем 10 или 100 миллиардов долларов, а я думаю, что это произойдет в 2025, 2026, может быть, в 2027 году… тогда я думаю, что есть хороший шанс, что к тому времени мы сможем получить модели, которые будут лучше, чем большинство людей в большинстве вещей».
Амодей
По данным Tom’s Hardware, существующая основа для этих достижений на данный момент огромна. Например, для обучения ChatGPT потребовалось более 30 000 графических процессоров, а каждый AI-чип Nvidia B200 стоит от 30 000 до 40 000 долларов. Инвестиции в оборудование являются одним из элементов, которые могут вызвать увеличение расходов.
Вычислительные ресурсы увеличивают затраты на обучение ИИ
Есть несколько причин, по которым стоимость обучения ИИ растет. Основная причина заключается в том, что объем необходимых вычислительных ресурсов огромен. С развитием моделей глубокого обучения необходимы мощные графические процессоры и другое специально разработанное оборудование. В 2023 году в центры обработки данных было отправлено более 3,8 миллиона графических процессоров, что демонстрирует масштаб необходимой инфраструктуры.
Читайте также: Искусственный интеллект повлияет на широкий спектр государственных услуг
Еще одним важным фактором является энергопотребление. Энергопотребления всех проданных в прошлом году графических процессоров было бы достаточно для питания 1,3 миллиона домов. Такое высокое потребление энергии не только приводит к высоким расходам для бизнеса, но также поднимает вопросы, связанные с воздействием на окружающую среду и ее сохранение. Согласно недавнему отчету Google, выбросы компании выросли почти на 50% за четыре года, в первую очередь из-за энергии, необходимой для обучения ИИ.
Технологические гиганты вкладывают значительные средства в инфраструктуру искусственного интеллекта
Более того, ведущие технологические компании вкладывают много денег в развитие искусственного интеллекта. Например, Илон Маск хочет купить 300 000 современных ИИ-чипов Nvidia. Аналогичным образом, Microsoft и OpenAI, как сообщается, работают над центром обработки данных стоимостью 100 миллиардов долларов для развития искусственного интеллекта.
Читайте также: Уимблдон использует искусственный интеллект для борьбы со злоупотреблениями в Интернете
Несмотря на рост затрат, предпринимаются попытки оптимизировать затраты на обучение ИИ. Компания DeepMind от Google недавно представила метод под названием «Совместный выбор примеров» (JEST), который утверждает, что сокращает количество итераций в 13 раз, а необходимые вычислительные ресурсы — в 10 раз. Это помогает сократить используемые ресурсы и время. быть взятым.
Однако, даже несмотря на эти достижения, общая тенденция направлена на повышение затрат из-за развития ОИИ. Модели, от генеративного искусственного интеллекта до AGI, должны интерпретировать большие наборы данных, учиться на них, предвидеть различные ситуации и решать проблемы, требующие критического мышления.
Криптополитический репортаж Бренды Канана