Бывший член команды суперсогласования OpenAI Уильям Сондерс раскрыл причины своего ухода из организации, проведя поразительную аналогию с затоплением корабля R.M.S. Титаник. Проведя три года в OpenAI, Сондерс выразил свои опасения в эпизоде ​​подкаста технологического журналиста Алекса Кантровитца, подчеркнув свою убежденность в том, что OpenAI может двигаться к катастрофе, похожей на печальное путешествие «Титаника» в 1912 году.

Сондерс сказал, что его работа в OpenAI часто заставляла его задаваться вопросом, соответствует ли траектория движения компании трагическому крушению «Титаника» или успеху космической программы «Аполлон». В то время как «Титаник», к сожалению, погиб из-за нехватки спасательных шлюпок и других пренебрегаемых мер безопасности, программа «Аполлон», несмотря на все трудности, в конце концов увенчалась успехом благодаря усердным научным усилиям.

OpenAI — Титаник искусственного интеллекта

«Много работы было потрачено на то, чтобы сделать корабль безопасным и построить водонепроницаемые отсеки, чтобы можно было сказать, что он непотопляемый. Но в то же время спасательных шлюпок на всех не хватило», — заметил Сондерс, проведя прямую аналогию с деятельностью OpenAI. Он раскритиковал дух компании, который, по его мнению, ставит разработку продукта выше основных мер безопасности.

Сондерс описал ситуацию в OpenAI, где сотрудники, высказывавшие опасения по поводу безопасности, были маргинализированы, а руководство, казалось, больше ориентировалось на прибыль, чем на реализацию необходимых мер безопасности. «Со временем, — сказал он, — стало действительно казаться, что решения, принимаемые руководством, больше напоминали компанию White Star Line, строящую Титаник».

Критика Илона Маска в отношении OpenAI

Это не первый раз, когда OpenAI сталкивается с внутренними разногласиями. Илон Маск, один из соучредителей OpenAI, недавно подал, а затем отозвал иск против компании, утверждая, что она отклонилась от своей первоначальной миссии. Хотя Маск уже много лет не связан с OpenAI и сейчас управляет конкурирующей фирмой по искусственному интеллекту xAI, его опасения перекликаются с настроениями Сондерса.

Аналогичным образом, конкурирующая компания в области искусственного интеллекта Anthropic была основана в 2021 году бывшими сотрудниками OpenAI, которые были недовольны акцентом OpenAI на доверии и безопасности. С другой стороны, Илья Суцкевер, еще один соучредитель и бывший главный научный сотрудник, покинул OpenAI в мае 2024 года, чтобы основать собственное предприятие, выразив уверенность, что OpenAI благополучно достигнет своих целей.

Айсберг

Несмотря на несколько громких отклонений и критических замечаний, сравнивающих путь OpenAI с путем Титаника, остается актуальным вопрос: кто или что такое айсберг?

Если мы рассмотрим пассажиров в аналогии с «Титаником» как все человечество, то айсберг может представлять собой экзистенциальные риски, которые передовые системы искусственного интеллекта, такие как ChatGPT, представляют для неподготовленного общества. Потенциал искусственного интеллекта превзойти человеческий интеллект без адекватных мер безопасности может привести к катастрофическим последствиям, подобным нехватке спасательных шлюпок на Титанике.

Сообщение «Бывший сотрудник OpenAI называет фирму «Титаником искусственного интеллекта»» впервые появилось в разделе «Последние новости и идеи о блокчейне, криптовалюте и инвестировании».