Odaily星球日報訊 美東時間 5 月 14 日(上週二),OpenAI 首席科學家伊利亞·蘇茨克沃(Ilya Sutskever)官宣離職。同日,OpenAI 超級對齊團隊負責人之一的簡·雷克(Jan Leike)也宣佈離職。 上週五,OpenAI 也證實,由蘇茨克沃和簡·雷克共同領導的“超級智能對齊團隊”已經解散。5 月 18 日凌晨,簡·雷克在社交平臺 X 上連發 13 條推文,爆料離職的真正原因及更多內幕。 針對簡·雷克的爆料信息,5 月 18 日奧爾特曼也緊急發文迴應:“我非常感激簡·雷克對 OpenAI 在 AI 超級對齊研究和安全文化方面的貢獻,對他離開公司感到非常遺憾。他指出了我們還有很多工作需要完成,我們對此表示認同,並致力於推進這些工作。在接下來的幾天裏,我會撰寫一篇更詳細的文章來討論這個問題。” 特斯拉首席執行官 Elon Musk 針對“超級對齊”團隊解散這一消息評論稱:“這顯示安全並不是 OpenAI 的首要任務。 總結來看,一是算力資源不夠用,二是 OpenAI 對安全不夠重視。簡·雷克表示,應該將更多資源和精力投入到爲新一代 AI 模型做準備的工作中,但目前的發展路徑無法順利達成目標。他的團隊在過去幾個月面臨巨大挑戰,有時難以獲取足夠的計算資源。 簡·雷克還強調,創造超越人類智能的機器充滿風險,OpenAI 正在承擔這一責任,但安全文化和流程在追求產品開發過程中被邊緣化。OpenAI 必須轉型爲一家將安全放在首位的 AGI 公司。 美國沃克斯網站 17 日稱,去年 11 月,OpenAI 董事會試圖解僱首席執行官奧特曼,結果奧特曼很快奪回權力。此後,至少有 5 名公司最具安全意識的員工辭職或被解僱。美國《華爾街日報》稱,蘇茨克韋爾將注意力集中在確保人工智能不會傷害人類上,而包括奧特曼在內的其他人更渴望推動新技術的發展。美國《連線》雜誌稱,蘇茨克韋爾是去年 11 月解僱奧特曼的 4 名董事會成員之一。 該公司的消息人士向沃克斯網站透露,有安全意識的員工已經對奧特曼失去了信心,“這是一個信任一點點崩塌的過程,就像多米諾骨牌一塊塊倒下一樣”。他們認爲,奧特曼聲稱將安全放在首位,但在行爲上卻自相矛盾。 美國 TechCrunch 科技博客網站 18 日稱,OpenAI 放棄安全研究,轉而推出像 GPT-4o 這樣的新產品,最終導致“超級對齊”團隊的兩位負責人辭職。目前尚不清楚科技行業何時或是否會實現必要的突破,以創造出能夠完成人類所能完成的任何任務的人工智能。(環球網)
查看原文
0