明年OpenAI將邁入AI系統時代
GPT-4 之後，明年的 OpenAI 在憋什麼大招？OpenAI 的護城河在哪？AI Agent 的價值在哪？眾多老員工「出走」，OpenAI 會選擇更有信念感和活力的年輕人嗎？
11 月 4 日，OpenAI CEO Sam Altman（以下稱「Altman」）在「The Twenty Minute VC」播客中回答了這些問題，他明確表示，提升推理能力一直是 OpenAI 的核心戰略。
當播客主持人、21VC 創始人 Harry Stebbings（以下稱「Stebbings」）問到 OpenAI 還能給 AI 創業者留下哪些機會時，Altman 認為，AI 創業如果還要執著於解決模型不足的問題，那麼這個業務模式將隨著 OpenAI 模型的升級而不再具備競爭力，創業者應該去構建能隨著模型變強而受益的業務，這將是一個巨大的機會。
在 Altman 看來，人們現在討論 AI 的方式有點過時，相比模型，系統是更值得關注的發展方向，而明年將是 OpenAI 邁向 AI 系統的關鍵一年。
以下是 Stebbings 與 Altman 對話的精華節選：
OpenAI 計劃打造無代碼工具
Stebbings：我直接從觀眾提問的問題開始今天的訪談，未來 OpenAI 的方向是推出更多像 GPT-3.5 這樣的模型還是訓練更大更強的模型？
Altman：我們會全面最佳化模型，提升推理能力是當前戰略的核心。
我認為強大的推理能力將解鎖一系列我們期待的功能，包括讓人工智慧在科學研究領域做出實質性貢獻、編寫複雜程度極高的代碼等等，這將極大地推動社會的發展和進步。
大家可以期待 GPT 系列模型的持續且快速的疊代和最佳化，這將是我們未來工作的重點和優先方向。
Sam Altman 接受 21VC 創始人 Harry Stebbings 的播客訪問
Stebbings： OpenAI 未來是否會為非技術人員開發無代碼工具，讓這些人也能輕鬆構建和擴展 AI 應用？
Altman：毫無疑問，我們正朝著這一目標穩步前進。
我們的初步計劃是顯著提升程式設計師的工作效率，但長遠來看，我們的目標是打造一流的無代碼工具。儘管市場上已經存在一些無代碼解決方案，它們目前還無法完全滿足以無代碼方式創建一個完整初創公司的需求。
Stebbings：未來，OpenAI 會在技術生態的哪些領域拓展？考慮到 OpenAI 可能會在應用層面占據主導地位的情況下，如果初創公司投入大量資源來最佳化現有系統，這是否是一種資源的浪費？創始人們應該如何思考這個問題？
Altman：我們的目標是不斷改進我們的模型。如果你的業務僅僅是為了解決現有模型的一些微小不足，那麼一旦我們的模型變得足夠強大，這些不足不復存在時，你的業務模式可能會變得不再具有競爭力。
然而，如果你能夠構建一個能夠隨著模型的不斷進步而受益的業務，那麼這將是一個巨大的機遇。
設想一下，如果有人向你透露 GPT-4 將會變得異常強大，能夠實現目前看來不可能完成的任務，那麼你將能夠從更長遠的角度來規劃和發展你的業務。
Stebbings：我們曾與風險投資人 Brad Gerstner 探討 OpenAI 可能對某些細分市場的影響。你從創始人的視角看，哪些公司可能會受到 OpenAI 的衝擊，而哪些公司能夠倖免？作為投資者，我們又該如何評估這個問題？
Altman：人工智慧將創造數萬億美元的價值，它將催生全新的產品和服務，使之前不可能或不切實際的事情變得可行。
在某些領域，我們期望模型能夠強大到讓目標實現變得輕而易舉；而在其他領域，通過構建卓越的產品和服務，這項新技術將得到進一步的增強。
在早期，大約 95% 的初創公司似乎都在押注模型不會變得更好，這讓我感到驚訝，現在我已經不感到驚訝了。GPT-3.5 剛發布時，我們已經預見到 GPT-4 的潛力，我們知道它會非常強大。
所以，如果你構建的工具僅僅是為了彌補模型的不足，那麼隨著模型的不斷改進，這些不足將變得越來越無關緊要。
過去模型表現很糟糕時，人們更傾向於開發彌補模型缺陷的產品，而不是去構建像「AI 教師」或「AI 醫療顧問」這樣具有革命性的產品。我感覺當時 95% 的人都在賭模型不會有所改進，只有 5% 的人相信模型會變得更好。
現在情況已經發生逆轉，人們理解了改進的速度，也了解了我們的發展方向。
現在這個問題不再那麼突出了，但曾經我們非常擔心，因為我們預見到那些（朝著彌補模型缺陷）努力的公司可能會面臨困境。
Stebbings： 你曾說「人工智慧將創造數萬億美元的價值」，孫正義（軟銀集團創始人兼執行長）也預測「AI 每年將創造 9 萬億美元的價值」，足以抵消他所認為的「必要的 9 萬億美元資本支出」，你對此有何看法？
Altman：我無法給出一個精確的數字，顯然，大量的資本支出下也將創造巨大的價值，因為每一次重大的技術革命都是如此，而人工智慧無疑是其中之一。
明年對我們來說是關鍵一年，我們將邁入下一代 AI 系統的時代。
你提到的無代碼軟體代理的開發，我不確定這需要多長時間，目前這還無法實現，但如果設想一下我們能達到這個目標，每個人都能因此輕鬆獲得他們所需的整套企業級軟體，這將為世界釋放出多少經濟價值。
如果你還能保持同樣的價值產出，同時讓它變得更便捷、成本更低，這又會產生巨大的影響。
我相信我們將看到更多類似的例子，包括醫療和教育領域，它們代表著數萬億美元的市場。
如果 AI 能夠在這些領域推動新的解決方案，我認為具體的數字並不重要，重要的是它確實會創造難以置信的價值。
優秀的 AI Agent 具備超越人類能力的功能
Stebbings：你認為開源在人工智慧未來的發展中將扮演怎樣的角色？在 OpenAI 內部，「是否應該開源某些模型」的討論會如何進行？
Altman：開源模型在人工智慧生態系統中扮演著至關重要的角色。
目前已經有一些非常出色的開源模型存在。
我認為，同時提供高品質的服務和 API 也是至關重要的。在我看來，將這些元素作為一個產品組合來提供是有意義的，這樣人們就可以選擇最適合他們需求的解決方案。
Stebbings：除了開源，我們還可以通過 Agent（代理）向客戶提供服務。你如何定義「Agent」？在你看來，它是什麼，又不是什麼？
Altman：我覺得 Agent 是一種能夠執行長時間任務的程序，並且在執行任務過程中幾乎不需要人為監督。
Stebbings： 你認為人們對 Agent 的理解存在誤區嗎？
Altman：與其說是誤解，不如說我們還沒有完全理解 Agent 在未來世界中所扮演的角色。
人們經常提到的例子是讓 AI Agent 幫忙訂餐廳，比如它能用 OpenTable 做到，或者直接打電話給餐廳。
這確實可以節省一些時間，但我認為更令人興奮的是 Agent 能做一些人類做不到的事情，比如 Agent 可以同時聯繫 300 家餐廳，為我找到最適合的菜品或能提供特殊服務的餐廳。
這對人類來說幾乎是不可能的任務，但如果 Agent 之間都是 AI，它們可以平行處理，這個問題就迎刃而解了。
雖然這個例子很簡單，但它展示了 Agent 超越人類能力的功能。更有有趣的是，Agent 不僅能幫你訂餐廳，還能像一個非常聰明的資深同事，可以與你合作完成一個項目；或者它可以獨立完成一個需要兩天甚至兩週的任務，只有在遇到問題時才會聯絡你，並最終呈現出一個優秀的成果。
Stebbings：這種 Agent 模式是否會對 SaaS（軟體即服務）的定價產生影響？傳統上，SaaS 就是按照用戶席位來收費的，如今 Agent 實際上在取代人工。你如何看待未來定價模式的變化，尤其是在 AI Agent 成為企業員工核心部分的情況下？
Altman：我只能做出推測，因為我們真的無法確定。
我可以設想一個場景：未來的定價模式將基於你所使用的計算資源來確定，比如你需要 1 個 GPU、10 個 GPU 或 100 個 GPU 來處理問題。
在這種情況下，定價不再基於席位甚至 Agent 的數量，而是根據實際消耗的計算量來決定。
Stebbings：那我們是否需要為 Agent 來構建專門的模型？
Altman：的確需要大量的基礎設施來支撐 Agent 的運行，但我認為 GPT-3.5 已經指明了方向，即一個能夠執行複雜 Agent 任務的通用模型。
模型是貶值資產，但訓練經驗比成本價值高
Stebbings： 很多人認為隨著模型的商品化趨勢日益顯著，模型是貶值資產。你如何看待這種觀點？目前，訓練模型的資本密集度越來越高，這是否意味著只有少數公司才能承擔這樣的成本？
Altman：確實，模型可以被視為貶值資產，但認為它們的價值低於訓練成本是完全錯誤的。
實際上，在訓練模型的過程中，我們能夠獲得正向的複利效應，即我們從訓練中獲得的知識和經驗將有助於我們更高效地訓練下一代模型。
我認為我們從模型中獲得的實際收入已經證明了這些投資的合理性。當然，並非所有公司都能達到這樣的效果。
當前，可能有很多公司在訓練非常相似的模型，但如果你稍微落後，或者沒有一個能夠持續吸引用戶並提供價值的產品，那麼獲得投資回報可能會更加困難。
我們很幸運擁有 ChatGPT，它被數億用戶所使用，因此即使成本高昂，我們也能夠透過龐大的用戶基礎來分攤這些成本。
Stebbings：OpenAI 的模型未來如何保持差異化？你最希望在哪些方面擴大差異？
Altman：推理能力是我們目前最為重視的領域，我相信這將是開啟下一個大規模價值創造階段的關鍵。
此外，我們也將緻力於多模態模型的開發，並引入我們認為對用戶至關重要的新功能。
Stebbings： 在新的 GPT-3.5 推理時間範式下，視覺能力會如何擴展？
Altman： 在不劇透的情況下，我預計圖像模型將會快速發展。
Stebbings：Anthropic 公司的模型有時被認為在編程任務上表現得更為出色，你對此有何看法？你認為這種評價是否公正？開發者應該如何在 OpenAI 和其他提供商之間做出選擇？
Altman：Anthropic 確實擁有一個在編程領域表現出色的模型，他們的工作確實令人印象深刻。
我認為開發者通常會同時使用多種模型，我也不確定隨著這個領域的發展，情況會如何變化。但我相信未來人工智慧將無處不在。
我們目前討論 AI 的方式可能有些過時，我預測我們將從討論「模型」轉變為討論「系統」，但這需要時間來實現。
Stebbings： 關於模型擴展的問題，你認為模型的規模法則還能持續多久？過去大家一直認為它不會持久，但似乎它比人們預想的更持久。
Altman：不深入討論細節，核心問題是：模型能力的提升軌跡是否會像目前這樣持續下去？我相信會的，並且會持續相當長時間。
Stebbings：你曾經對這一點有過懷疑嗎？
Altman：我們確實遇到過一些我們無法理解的行為模式，也經歷過一些失敗的訓練過程，嘗試過各種新範式。
當我們快到達一個範式的極限時，我們必須找到下一個突破點。
Stebbings：這個過程中最難應對的挑戰是什麼？
Altman：在我們著手研發 GPT-4 的過程中曾遇到一些極其棘手的問題，一度讓我們感到束手無策，不知道該如何破解。
最終，我們還是成功克服了這些難題。但確實有那麼一段時間，我們對如何推進模型的發展感到迷茫。
此外，GPT-3.5 的轉變以及推理模型的概念是我們長期以來一直夢寐以求的目標，但實現這一目標的研究之路充滿了挑戰和曲折。
Stebbings： 在這種漫長而曲折的過程中，如何保持團隊的士氣？當訓練過程可能失敗時，你如何維持士氣？
Altman：我們團隊的成員都對構建通用人工智慧（AGI）充滿熱情，這是一個極具激勵性的目標。
我們都清楚，這不是一條輕鬆的道路，成功不會輕而易舉。有一句名言說得好：「我從不祈求上帝站在我這邊，而是祈求我能站在上帝那邊。」
投身於深度學習領域，就像是投身於一項正義的事業，儘管過程中不可避免會有挫折，但最終我們似乎總能取得進展。這種堅定的信念對我們來說是極大的幫助。
Stebbings：關於半導體供應鏈的問題，你對半導體供應鏈以及國際緊張局勢的擔憂程度如何？
Altman：我無法量化這個擔憂的程度，但毫無疑問，我確實感到擔憂。
雖然它可能不是我最擔憂的問題，但在我關心的所有事項中，它絕對位於前 10% 之列。
Stebbings：我可以詢問一下你最擔心的問題是什麼嗎？
Altman：總體而言，我最擔心的是我們在整個領域嘗試完成所有工作的複雜性。
儘管我相信最終一切都會得到解決，但這確實是一個極其複雜的系統。
這種複雜性在各個層面都存在，包括在 OpenAI 內部，以及每個團隊中。以半導體為例，我們需要平衡電力供應、做出正確的網路決策、確保獲得足夠的晶片，同時還要考慮到潛在的風險，以及研究進度是否能夠與這些挑戰相匹配，以免我們完全措手不及或浪費資源。
整個供應鏈看似是一條直線管道，但實際上每個層面的生態系統的複雜性超出了我在其他任何行業中所見。在某種程度上，這正是我最擔憂的問題。
Stebbings： 你提到了前所未有的複雜性，許多人將當前的 AI 浪潮與網路泡沫時期相比較，尤其是提及興奮與熱情時。我認為不同之處在於資金的投入規模。Larry Ellison（甲骨文公司聯合創始人）曾表示，進入基礎模型競賽的入門成本是 1000 億美元。你是否認同這一觀點？
Altman：不，我認為成本並不會那麼高昂。但這裡有一個有趣的現象：人們喜歡用過去的技術革命來類比新的革命，以使其看起來更加熟悉。
我認為總體而言，這不是一個好的習慣，但我理解為什麼人們會這麼做。我還覺得人們選擇的 AI 類比案例尤其不恰當，網路顯然與 AI 有很大的不同。
你提到了一個關於成本的例子，無論是否真的需要花費 100 億或 1000 億才能具備競爭力，網路革命的一個標誌性特點是「很容易起步」。
另一個類似網路的特點在於，對許多公司來說，AI 只是網路的延伸——其他人會構建這些 AI 模型，你可以利用它們來開發各種出色的產品。
這種是把 AI 視為一種新的技術構建方式。但如果你想構建 AI 本身，那情況就完全不同了。
另一個常見的類比是電力，但我認為這在很多方面並不適用。
儘管我認為人們不應該過於依賴類比，但我最喜歡的類比是電晶體，它是物理學的新發現，具有難以置信的擴展性，很快就滲透到各個領域，整個科技行業都從電晶體中受益，我們使用的產品和服務中包含大量電晶體，但你不會覺得創造這些產品和服務的公司是「電晶體公司」。
這（電晶體）是一個非常複雜且昂貴的工業流程，圍繞它形成了龐大的供應鏈。
這一簡單的物理發現帶來了長期的經濟增長，即使大多數時候人們並沒有意識到它的存在，只是覺得「這個東西能幫我處理資訊」。
保持對人才的高標準，而非偏向某個年齡段
Stebbings：你認為人的才能是如何被浪費的？
Altman：世界上有很多非常有才華的人，因為在不合適的公司工作，或者生活在不支持優秀公司的國家，或其他各種原因，無法充分發揮他們的潛力。
我對 AI 最興奮的地方之一是，它可能幫助我們更好地發揮每個人的潛能，而我們目前在這方面做得遠遠不夠。我相信世界上有很多潛在的優秀 AI 研究人員，只是他們的生活軌跡有所不同。
Stebbings：過去一年你經歷了難以置信的高速增長，如果回顧過去十年中，你認為自己在領導方面的最大改變是什麼？
Altman：對我而言，這幾年最不尋常的事情是變化速度。
一個正常的公司從零增長到一億美元的收入，再從一億增長到十億，最後從十億增長到百億，這通常需要很長時間，而我們卻要在短短兩年內完成這一過程。
我們從一個純粹的研究實驗室轉變為一個真正為大量客戶提供服務的公司，這種迅速的轉變讓我失去了學習的時間。
Stebbings：哪些是你想花更多時間學習的？
Altman：如何引導公司專注於實現 10 倍增長而不僅僅是 10% 的增長。
要從一個收入數十億的公司成長為收入數百億的公司，需要深刻的變革，而不僅僅是重複上週的工作。
但快速增長帶來的挑戰在於，我們沒有足夠的時間去夯實基礎。
我曾低估了在這種極速增長的環境中，為了追趕和持續推進需要付出多大的努力。
公司內部的溝通、資訊共享、結構化管理和在規劃上如何平衡短期需求與長期發展，這些都是至關重要的。
例如，為了確保公司在未來一兩年內的執行力，我們需要提前準備計算資源、辦公空間等。在這種快速增長的環境中，進行有效的規劃是非常具有挑戰性的。
Stebbings：Keith Rabois（風險投資人）曾說，他從 Peter Thiel（PayPal 聯合創始人）那裡學到了一點，那就是要雇傭 30 歲以下的年輕人，因為這是打造偉大公司的秘訣。你怎麼看待這個建議，即通過雇傭非常有活力、雄心勃勃的年輕人來建立公司，這是否是唯一的方法？
Altman：我在創建 OpenAI 時大約 30 歲，不算太年輕，但看起來還算合適（笑）。
所以，這確實是一個可以嘗試的路徑。
Stebbings：不過，年輕人雖然充滿活力和雄心，但可能缺乏經驗；或者選擇那些經驗豐富、已經證明過自己的人才？
Altman：顯而易見的答案是，兩種人才的雇傭都可以取得成功，正如我們在 OpenAI 所做的那樣。
就在今天的採訪之前，我還在討論一位剛加入我們團隊的年輕人，可能才二十出頭，但他的工作表現非常出色。
我在思考，我們是否能夠找到更多像他這樣的人才，這些年輕人帶來了新的視角和活力。
然而，另一方面，如果你要設計人類歷史上最複雜、成本最高的計算系統之一，我不會輕易將重任交給一個剛入行的年輕人。
因此，我們需要兩類人才的結合。我認為關鍵在於保持對人才的高標準，而不是單純地偏向某個年齡段。
我特別感激 Y Combinator（創業孵化器），因為它讓我認識到缺乏經驗並不意味著缺乏價值。
有很多處於職業生涯早期的高潛力人才，他們能夠創造巨大的價值，我們的社會應該對這些人才進行投資，這是一件非常積極的事情。
Stebbings：我最近聽到一句名言——生活中最沉重的負擔不是鐵或金，而是未做出的決定。對你來說，哪個未做出的決定給你帶來了最大的壓力？
Altman：這個問題的答案每天都在變，沒有哪一個未做的決定特別重大。
當然，我們確實面臨一些重大的決策，比如選擇哪個產品方向，或者如何設計下一代計算機，這些都是重要且充滿風險的選擇。
遇到這種情況時，我可能會推遲決策，但大多數情況下，挑戰在於每天都要面對一些 51% 對 49% 的難題，這些決策之所以擺在我面前，是因為它們難以決斷，我可能並不比團隊中的其他人更有把握做出更好的選擇，但我必須做決策。
所以，問題的核心在於決策的數量，而不是某一個特定的決定。
Stebbings：當遇到 51% 對 49% 的決策時，你有固定的人可以諮詢嗎？
Altman：沒有，我認為在所有事情上依賴某一個人並不是正確的方式。
對我來說，更好的方式是找到 15 或 20 個在特定領域有很好的直覺和背景知識的人，在需要時諮詢最佳的專家，而不是依賴單一的顧問。
快問快答
Stebbings：假設你今天是一個 23 或 24 歲的年輕人，考慮到現有的基礎設施，你會選擇做什麼？
Altman：我會選擇一個 AI 支持的垂直領域，比如 AI 教育，我會開發最好的 AI 教育產品，讓人們能夠學習任何領域的知識。
類似的例子還可以是 AI 律師、AI CAD 工程師等。
Stebbings：你提到寫書，你會給書取什麼名字？
Altman：我還沒想好名字。我還沒仔細想過這本書，只是覺得它的存在會激發很多人的潛力。可能會和「人類潛力」這個主題有關。
Stebbings：在 AI 領域，有什麼大家沒有關注卻應該投入更多時間的方向？
Altman：我希望看到的是一種能夠理解你整個人生的 AI。
它不需要無限的上下文，但希望能有某種方式，讓你擁有一個了解你全部數據並能夠輔助你的 AI Agent。
Stebbings：過去一個月內，有什麼事讓你感到驚訝嗎？
Altman：是一個我無法透露的研究結果，但它令人震撼。
Stebbings：你最尊敬的競爭對手是誰？為什麼？
Altman：其實我尊重這個領域的每一個人，整個領域內都充滿了傑出的人才和卓越的工作。
我不是故意迴避問題，只是到處都可以看到有才華的人做著非常出色的工作。
Stebbings：有特定的某一個嗎？
Altman：並沒有特別的一個。
Stebbings：你最喜歡的 OpenAI API 是哪個？
Altman： 新的即時 API 非常棒，我們現在有一個龐大的 API 業務，裡面有很多好東西。
Stebbings：你今天在 AI 領域中最尊敬的人是誰？
Altman：我想特別提一下 Cursor 團隊，他們用 AI 帶來了非常神奇的體驗，為人們創造了很多價值。
很多人沒能拼湊出所有的要素，而他們做到了。我特意沒有提到 OpenAI 的人，否則這份名單會很長。
Stebbings：在延遲和準確性之間的權衡，你怎麼看？
Altman： 需要一個可以調節兩者之間的旋鈕。就像現在你希望我快速回答問題，我盡量不花幾分鐘思考，這時候延遲就顯得重要。
如果你要我做出一個重大發現，你可能願意等幾年。答案是，這應該是用戶可控的。
Stebbings： 當你想到領導力中的不安全感時，你認為自己在哪個方面最需要改進，作為領導者和 CEO，你最想提升的是什麼？
Altman：最近這一週，我覺得我比以前更不確定我們的產品戰略細節應該是什麼。
總體來說，我覺得產品是我的弱項，現在公司正需要我提供更清晰的產品願景。
我們有一個很棒的產品負責人和團隊，但這是我希望自己更擅長的領域，最近尤為強烈地感受到這一點。
Stebbings：你雇傭了 Kevin Scott（OpenAI 的技術長），我認識他很多年了，他很優秀。Kevin 的哪些特質讓他成為世界一流的產品領導者？
Altman：「紀律」是我想到的第一個詞。
Stebbings：具體來說是指什麼？
Altman：他非常專注於優先事項，知道該拒絕什麼，能夠站在用戶的立場上思考為什麼要做或不做一件事，真的非常嚴謹，不會有天馬行空的想法。
Stebbings： 展望未來五年和十年，如果你有一支魔杖，可以描繪出 OpenAI 的五年和十年願景，會是怎樣的？
Altman：我很容易描繪出未來兩年，但如果我們猜對了，並且開始製造一些超強的系統，比如在科學進步方面，這會帶來不可思議的技術進步。
我認為五年後我們會看到科技進步驚人的速度，甚至會超出所有人的預期，社會上可能會覺得「AGI 的時刻來了又走了」；我們會發現很多新東西，不僅是 AI 研究，還包括其他科學領域。
另一方面，我認為（科技進步帶給）社會的變化其實相對有限。
例如，如果你在五年前問人們：計算機是否會通過圖靈測試？
他們大概會說：不會。如果你告訴他們：會。那他們會認為，這將給社會帶來巨大的變革。
現在你看，我們確實大緻通過了圖靈測試，但社會的變化其實並沒有那麼劇烈。
這就是我對未來的預期，即科技進步不斷突破所有預期，而社會的變化則較為緩慢。
我認為，這是好的和健康的狀態。從長遠來看，科技進步當然會給社會帶來巨大的變化，但在五到十年內不會那麼迅速地反映出來。
本文合作轉載自：深潮
更多報導
a16z投資人深析穩定幣演進史：從250年銀行業歷史看穩定幣的未來
川普當選後迎來「加密之春」，美國關鍵金融機構往「指導代替執法」前進？