Колишній член команди супергрупи OpenAI Вільям Сондерс розкрив причини свого відходу з організації, провівши разючу аналогію з затопленням R.M.S. Титанік. Провівши три роки в OpenAI, Сондерс висловив своє занепокоєння в епізоді подкасту технологічного журналіста Алекса Кантровіца, підкресливши своє переконання, що OpenAI може бути спрямований до катастрофи, схожої на сумну подорож «Титаніка» в 1912 році.
Сондерс сказав, що його робота в OpenAI часто змушувала його думати, чи траєкторія компанії відповідає трагічному краху «Титаніка» чи успіху космічної програми «Аполлон». У той час як «Титанік», на жаль, загинув через невідповідні рятувальні човни та інші знехтувані проблеми безпеки, програма «Аполлон», незважаючи на труднощі, нарешті досягла успіху завдяки старанним науковим зусиллям.
OpenAI — це Титанік ШІ
«Багато роботи було витрачено на те, щоб зробити корабель безпечним і створити водонепроникні відсіки, щоб вони могли сказати, що він непотоплюваний. Але в той же час не вистачало рятувальних човнів для всіх», — зауважив Сондерс, проводячи пряму аналогію з діяльністю OpenAI. Він критикував етос компанії, яка, на його думку, надає перевагу розробці продукту над важливими заходами безпеки.
Сондерс зобразив середовище в OpenAI, де співробітники, які висловлювали занепокоєння безпекою, були маргіналізовані, а керівництво, здавалося, більше зосереджувалося на прибутку, ніж на впровадженні необхідних заходів безпеки. «З часом, - сказав він, - почало справді здаватися, що рішення, які приймає керівництво, більше нагадують White Star Line, що будує Титанік».
Критика Ілона Маска щодо OpenAI
Це не перший раз, коли OpenAI стикається з внутрішніми суперечками. Ілон Маск, один із співзасновників OpenAI, нещодавно подав, а потім відкликав позов проти компанії, стверджуючи, що вона відхилилася від своєї початкової місії. Хоча Маск роками не брав участі в OpenAI і зараз керує конкуруючою компанією з штучного інтелекту xAI, його занепокоєння повторює почуття Сондерса.
Так само конкуруюча компанія зі штучного інтелекту Anthropic була заснована в 2021 році колишніми співробітниками OpenAI, які були незадоволені фокусом OpenAI на довірі та безпеці. З іншого боку, Ілля Суцкевер, ще один відчужений співзасновник і колишній головний науковий співробітник, покинув OpenAI у травні 2024 року, щоб розпочати власне підприємство, висловивши впевненість, що OpenAI безпечно досягне своїх цілей.
Айсберг
З огляду на кілька гучних відхилень і критики, які порівнюють шлях OpenAI з Титаніком, актуальним залишається питання: хто або що є айсбергом?
Якщо ми розглядаємо пасажирів у аналогії з Титаніком як усе людство, то айсберг може представляти екзистенційні ризики, які несуть для непідготовленого суспільства передові системи ШІ, такі як ChatGPT. Потенціал штучного інтелекту перевершити людський інтелект без відповідних гарантій може призвести до катастрофічних наслідків, подібних до відсутності рятувальних човнів на Титаніку.
Повідомлення Колишній співробітник OpenAI називає фірму «Титаніком штучного інтелекту» спочатку з’явилося на «Останні новини та статистика про блокчейн, криптовалюту та інвестиції».
