OpenAI в настоящее время испытывает трудности с поддержанием темпов инноваций, несмотря на свои достижения с новой моделью ИИ под названием Orion.
Согласно отчету The Information, последняя модель искусственного интеллекта OpenAI — Orion — достигла уровня производительности, эквивалентного GPT-4, после завершения только 20% процесса обучения. Однако ожидается, что разрыв в качестве между Orion и GPT-5 значительно сократится по сравнению с предыдущими скачками от GPT-3 к GPT-4.
Сотрудники OpenAI рассказали, что, хотя Orion лучше справляется с языковыми задачами, он не преуспевает в таких задачах, как программирование.
Значительные улучшения обычно происходят на ранних этапах обучения ИИ, тогда как более поздние этапы дают меньший прирост производительности. Это затрудняет оставшиеся 80% тренировочного процесса для достижения ожидаемых значительных прорывов.
Появление Orion произошло в важный момент, когда OpenAI только что успешно привлекла $6,6 млрд в недавнем раунде финансирования. Благодаря этому капиталу OpenAI сталкивается со все более высокими ожиданиями со стороны инвесторов и серьезными техническими проблемами при масштабировании технологии. Если ранние версии новой модели не оправдают ожиданий, способность OpenAI привлекать капитал в будущем может столкнуться с препятствиями.
Иллюстрация закона убывающей отдачи при разработке последующих версий ИИ. Источник: ОпенАИ
Текущая задача OpenAI отражает более широкую проблему всей индустрии искусственного интеллекта: нехватку высококачественных обучающих данных и необходимость сохранить свои позиции в растущей конкуренции.
Исследование, опубликованное в июне, предсказывает, что источники текстовых данных, генерируемые человеком, иссякнут в период с 2026 по 2032 год, что затруднит для компаний, занимающихся искусственным интеллектом, дополнительную добычу из общедоступных источников данных. The Information отмечает, что в последнее время разработчики «в основном использовали» данные для создания прорывов в области искусственного интеллекта.
Чтобы решить эти проблемы, OpenAI рассматривает совершенно новую стратегию развития ИИ. В «Информации» отмечается, что индустрия искусственного интеллекта смещает акцент на улучшение моделей после начального этапа обучения, потенциально создавая другой подход к масштабированию.
В процессе решения этих проблем OpenAI необходимо сбалансировать инновации и практические приложения, чтобы оправдать ожидания инвесторов. Однако тот факт, что многие высокопоставленные сотрудники покидают компанию, может создать дополнительные трудности для OpenAI на пути к стабильности и развитию в будущем.