元 OpenAI の「スーパーアライメント チーム」メンバーであるウィリアム サンダース氏は、R.M.S. タイタニック号の沈没に印象的な類似点を挙げながら、組織を去った理由を明らかにしました。OpenAI で 3 年間を過ごしたサンダース氏は、テクノロジー ジャーナリストのアレックス カントロウィッツ氏のポッドキャストのエピソードで懸念を表明し、OpenAI は 1912 年にタイタニック号がたどった悲しい旅路に似た大惨事に向かっているかもしれないという確信を強調しました。

サンダース氏は、OpenAI での仕事を通じて、同社の軌跡がタイタニック号の悲劇的な沈没やアポロ宇宙計画の成功と一致するのではないかと考えることがよくあったと語った。タイタニック号は救命ボートの不備やその他の安全上の懸念の無視により残念ながら沈没したが、アポロ計画は困難にもかかわらず、熱心な科学的努力により最終的に成功した。

OpenAIはAIのタイタニック号

「船を安全にし、水密区画を造って沈まないと言えるようにするために、多大な労力が費やされた。しかし同時に、全員を乗せられるだけの救命ボートがなかった」とサンダース氏は述べ、オープンAIの運営と直接的な類似点を指摘した。同氏は、基本的な安全対策よりも製品開発を優先する同社の企業理念を批判した。

サンダース氏は、安全上の懸念を表明した従業員が疎外され、経営陣が必要な安全対策を実施することよりも利益を重視しているように見えるオープンAIの環境を描写した。「時間が経つにつれて、経営陣が下す決定は、ホワイト・スター・ライン社がタイタニック号を建造しているような感じがするようになった」とサンダース氏は語った。

イーロン・マスクのOpenAIに対する批判

OpenAI が社内で反対に遭うのは今回が初めてではない。OpenAI の共同設立者の 1 人であるイーロン・マスク氏は最近、同社が当初の使命から逸脱したとして同社を相手取って訴訟を起こし、その後取り下げた。マスク氏は長年 OpenAI に関わっておらず、現在は競合する AI 企業 xAI を経営しているが、同氏の懸念はサンダース氏の感情と重なる。

同様に、ライバルのAI企業であるアントロピックは、信頼と安全性を重視するOpenAIの姿勢に不満を持った元OpenAI従業員によって2021年に設立された。一方、疎遠になっていたもう1人の共同創設者で元主任科学者のイリヤ・スツケヴァー氏は、2024年5月にOpenAIを離れ、自身のベンチャーを立ち上げ、OpenAIが安全に目標を達成できると確信していると述べた。

氷山

何人かの著名人が退職し、OpenAI の道のりをタイタニック号の航路になぞらえる批判もある中、差し迫った疑問が残る。氷山とは誰、あるいは何なのか?

タイタニック号の乗客を全人類と見なすと、氷山はChatGPTのような高度なAIシステムが備えのない社会にもたらす実存的リスクを表していると言えるでしょう。適切な安全策を講じずにAIが人間の知能を上回る可能性は、タイタニック号に救命ボートがなかったのと同様に、悲惨な結果を招く可能性があります。

元 OpenAI 従業員が同社を「AI 界の巨人」と呼ぶ記事が、ブロックチェーン、暗号通貨、投資に関する最新ニュースと洞察に最初に掲載されました。