Чтобы повысить безопасность проектов машинного обучения, OpenAI объявила о создании комитета по безопасности. Этот новый орган управления появился в свете недавних изменений в организации, таких как упразднение внутренней группы Superalignment, занимающейся рисками, создаваемыми ИИ.

Объявление о создании комитета последовало за рядом стратегических изменений внутри компании, а также за началом обучения модели следующего поколения, которая намекает на переход к AGI.

Совет директоров OpenAI формирует комитет по безопасности и защите, отвечающий за выработку рекомендаций по критически важным решениям в области безопасности и защиты для всех проектов OpenAI. https://t.co/tsTybFIl7o

– OpenAI (@OpenAI) 28 мая 2024 г.

OpenAI представляет новый комитет по улучшению надзора за искусственным интеллектом

Разработчики GPT-4, компания OpenAI, еще больше улучшили свою игру, создав сильный комитет по безопасности и защите, состоящий из девяти человек. В эту группу входят руководители организаций. Сэм Альтман в качестве генерального директора и председателя правления, Александр Мадри, Лилиан Венг, Джон Шульман, Мэтт Найт и Якуб Пачоцки. Их основная обязанность будет заключаться в улучшении процесса управления рисками ИИ.  Ожидается, что подробный отчет будет представлен совету директоров в течение следующих девяноста дней.

Читайте также: Amazon изо всех сил пытается бросить вызов превосходству Nvidia в области AI-чипов

Сдвиг OpenAI в надзоре за безопасностью последовал за многочисленными сменами руководства, такими как уход Ильи Суцкевера и Яна Лейке, а также роспуск команды Superalignment, отвечающей за безопасность ИИ. Эта реструктуризация демонстрирует желание OpenAI улучшить свои стратегии управления рисками в области ИИ, одновременно расширяя границы инноваций в области ИИ.

OpenAI обучает новую передовую модель

В дополнение к новому комитету OpenAI начала обучение тому, что они называют своей следующей передовой моделью. Эта модель направлена ​​на то, чтобы превзойти возможности существующих моделей и приблизиться к достижению AGI.  Этот шаг является частью их постоянной миссии по созданию решений искусственного интеллекта, которые могут эффективно и результативно выполнять различные задачи. Технический директор OpenAI Мира Мурати отметила, что первые обновления GPT-4 представят значительные улучшения в модели и могут отражать такие изменения в технологии и связанных с ней вариантах использования.

Читайте также: Китайские компании, занимающиеся искусственным интеллектом, начинают ожесточенную ценовую войну

Последние данные Microsoft, важного партнера, поставляющего облачную инфраструктуру для исследований в области искусственного интеллекта, указывают на то, что новая модель станет большим достижением, которое Том Уорнер, технический директор Microsoft, характеризует как переход от «косатки» к «киту». по возможностям и размерам.

Ожидания вокруг GPT-5 усиливаются

На фоне этих тенденций ходят слухи о предварительной версии языковой модели следующего поколения OpenAI под названием GPT-5. Отчеты за март показывают, что лишь небольшое количество пользователей использовали этот прототип и отметили, что есть улучшения по сравнению с GPT-4. Эта шумиха породила огромные ожидания среди технически подкованных людей и широкой общественности, поскольку заинтересованные стороны с нетерпением ждут возможности узнать больше о перспективах этой новой модели.

Все, что сделала OpenAI, от реструктуризации совета безопасности до продвижения своих технологий, указывает на общую картину сохранения своей позиции одного из лидеров в разработке ИИ. Постоянное развитие OpenAI и интеграция устойчивых платформ делают ее одной из ведущих компаний, помогающих определить путь в будущее технологий искусственного интеллекта.

Криптополитический репортаж Криса Мурити