Генеральный директор OpenAI Сэм Альтман ушел из внутреннего Комитета по безопасности компании, группы, созданной в мае для надзора за критически важными решениями по безопасности. Уход Альтмана произошел в то время, когда американские законодатели и бывшие сотрудники OpenAI выразили обеспокоенность по поводу безопасности и соблюдения компанией правовых норм.
Комитет по безопасности и защите теперь будет работать как отдельный комитет на уровне совета директоров, который контролирует вопросы безопасности и защиты. В результате этого изменения его председателем был назначен профессор Университета Карнеги-Меллона Зико Колтер, а также генеральный директор Quora Адам Д'Анджело, отставной генерал армии США Пол Накасоне и бывший руководитель Sony Николь Селигман. Все они являются действующими членами совета директоров OpenAI. Группа по-прежнему будет иметь полномочия задерживать выпуск моделей ИИ до тех пор, пока не будут решены проблемы безопасности.
Критики ставят под сомнение приоритеты OpenAI в связи с уходом ключевых сотрудников
В сообщении в блоге после ухода Альтмана OpenAI вновь заявила о своей ориентации на безопасность и отметила, что комитет ранее одобрил безопасность новейшей модели o1. Группа также будет регулярно получать дополнительную информацию от сотрудников службы безопасности компании, чтобы держать членов в курсе и информировать о будущих выпусках моделей ИИ. Она также заявила, что намерена усилить меры безопасности, приняв технические обзоры и четко изложенные цели для запусков моделей.
Это произошло на фоне критики, особенно со стороны пяти сенаторов США, которые летом выразили обеспокоенность мерами безопасности компании. Критики также отметили, что более половины сотрудников, которым было поручено иметь дело с долгосрочными последствиями ИИ, покинули компанию. Некоторые заявили, что Альтмана больше волнует деловой аспект ИИ, чем регулирование технологии.
Расходы OpenAI растут. В первой половине 2024 года компания потратила $800 000 на федеральное лоббирование, что является значительным увеличением по сравнению с $260 000, потраченными за весь 2023 год. Ранее в этом году Альтман стал членом Совета по безопасности и защите искусственного интеллекта Министерства внутренней безопасности США. Предполагается, что комитет будет консультировать по использованию ИИ в критически важных системах страны.
Все еще есть вопросы относительно саморегулирования гиганта ИИ. В статье для The Economist бывшие члены совета директоров OpenAI Хелен Тонер и Таша Макколи выразили сомнения относительно способности компании контролировать себя. Они заявили, что стимулы к прибыли могут подорвать самоуправление OpenAI, которое, по их мнению, может противоречить долгосрочным целям безопасности.
OpenAI ищет масштабное финансирование и планирует перейти на коммерческую модель
Сообщается, что OpenAI ведет переговоры о получении нового масштабного раунда финансирования, который может поднять ее оценку до $150 млрд. В недавнем отчете Cryptopolitan OpenAI планирует получить $6,5 млрд от инвесторов по текущей оценке. Сообщается, что OpenAI планирует преобразовать свою текущую операционную модель в традиционную коммерческую модель к 2025 году.
Генеральный директор OpenAI Сэм Альтман рассказал об изменениях сотрудникам во время недавней встречи, но не рассказал многого о том, чего ожидать. Альтман сказал, что компания «слишком выросла» для текущей структуры и готова отойти от некоммерческой модели.
