Уильям Сондерс, бывший сотрудник OpenAI и член «команды суперсогласования» компании, недавно сообщил, что покинул компанию, потому что чувствовал, что она находится на пути к столкновению с трагедией, во многом как злополучный R.M.S. Титаник в 1912 году.

Как заметил Business Insider, Сондерс дал свой комментарий во время эпизода подкаста технологического журналиста Алекса Кантровитца.

Сондерс рассказал Кантровитцу, что за три года работы в OpenAI он иногда задавался вопросом, идет ли компания по пути, который «больше похож на программу Аполлона или больше на Титаник».

Судя по всему, его аргументация заключается в том, что благодаря осторожным научным усилиям космическая программа «Аполлон» увенчалась успехом, несмотря на неудачи, тогда как «Титаник» потерпел неудачу, несмотря на свои успехи.

Пер Сондерс:

«Много работы было потрачено на то, чтобы сделать корабль безопасным и построить водонепроницаемые отсеки, чтобы можно было сказать, что он непотопляемый. Но в то же время спасательных шлюпок на всех не хватило».

OpenAI как Титаник

Сондерс описывает общий дух компании как тот, который отдает более высокий приоритет разработке продукции, чем осуществлению разумных мер предосторожности.

Он рисует картину офиса, где сотрудники, высказывающие опасения по поводу безопасности, наказываются, а руководство сосредоточено на прибыли.

«Со временем, — сказал Сондерс, — стало действительно казаться, что решения, принимаемые руководством, больше напоминали компанию White Star Line, строящую Титаник».

Айсберг

Сондерс не первый человек, который не согласен с тем, как OpenAI якобы ведет бизнес. Илон Маск, один из сооснователей компании, недавно подал в суд на компанию из-за утверждений, что она слишком далеко отошла от своей первоначальной миссии. И это несмотря на то, что Маск уже много лет не имеет никакого отношения к OpenAI и в настоящее время управляет своим прямым конкурентом xAI. Впоследствии иск был отозван.

Конкурирующая компания по искусственному интеллекту Anthropic была основана в 2021 году бывшими сотрудниками и соучредителями OpenAI из-за опасений, что OpenAI недостаточно ориентирована на доверие и безопасность. 

С другой стороны, Илья Суцкевер, еще один ныне отстраненный соучредитель и бывший главный научный сотрудник компании, который покинул компанию в мае 2024 года, чтобы основать собственную компанию, написал тогда, что он "уверен", что команда OpenAI сможет безопасно достичь своих целей.

Учитывая, что так много сотрудников покидают корабль, а по крайней мере один из них приводит аналогию с Титаником, возникает вопрос: кто или что такое айсберг?

Если пассажирами в этой аналогии являемся мы — все человечество — тогда айсберг представляет собой экзистенциальную угрозу, которую ChatGPT и подобные ему системы представляют для неподготовленного общества. Если ИИ станет более умным и способным, чем мы, и у нас не будет достаточного количества «спасательных шлюпок», чтобы защитить всех от его потенциального вреда, тогда нас может ожидать трагедия.

Но если пассажиры — это акционеры и заинтересованные стороны, ожидающие, пока OpenAI создаст ИИ, такой же умный, как человек, а этого никогда не произойдет, то, возможно, айсберг представляет собой взрыв пузыря генеративного ИИ.

По теме: Большим технологиям грозит финансовая расплата, если в ближайшее время не появится ИИ на человеческом уровне