韓國和英國政府將在本週的國際人工智能峯會上敦促科技公司解決人工智能安全監督問題。
這次會議是去年在英國布萊切利園舉行的首屆全球人工智能安全峯會的後續會議,當時許多政府都表達了對人工智能風險的擔憂。人工智能公司也出席了會議,因爲他們正在研究的技術存在這些風險。
國際社會多次嘗試爲快速發展的技術設置護欄,這些技術有可能徹底改變社會的方方面面,而首爾峯會引發了人們對日常生活中新出現的風險的擔憂。
“儘管人們爲塑造全球人工智能治理做出了積極努力,但仍然存在重大差距。”
11 月舉行的英國峯會匯聚了研究人員、政府官員、科技高管和民間社會組織代表,其中許多人對人工智能持有不同意見。會議在布萊切利閉門舉行。除了英國首相里希·蘇納克、OpenAI 首席執行官山姆·奧特曼和特斯拉等政界人士外,伊隆·馬斯克和其他許多人也出席了會議。
安全將成爲人工智能峯會的首要任務
在週二開幕的首爾人工智能峯會上,安全將再次成爲首要任務。英國和韓國政府將於 5 月 21 日至 22 日共同主辦此次會議。
微軟、Anthropic、谷歌DeepMind、ChatGPT創建者OpenAI、法國人工智能初創公司Mistral等著名人工智能公司都將派代表出席。
英國首相里希·蘇納克和韓國總統尹錫烈也於週一在 INews 上發表了一篇聯合文章。他們認可這項技術的潛力,並表達了確保安全的意願,他們表示,
“我們決心共同抓住這項技術的潛力,讓世界變得更美好。”
他們還強調,新技術帶來新風險,人工智能也是如此。他們指出,一些不法分子濫用人工智能,蓄意利用人工智能做壞事。
就在最近,OpenAI 解散了其安全團隊 Superalignment 團隊,原因是其聯合創始人 Ilya Sutskever 和其他一些關鍵員工離開了公司。這一消息來自這家全球領先的人工智能公司,該公司在首爾峯會前幾天宣佈了這一消息,其重點是降低人工智能的風險。
另請閱讀:布萊切利園峯會呼籲國際合作應對人工智能風險
另一方面,Anthropic 今天發佈了有關負責任的擴張政策的報告,該公司表示,該報告已取得良好效果。然而,我們無法證實這些結果。雖然我們無法對任何這些發展發表評論,但它們確實提供了一些值得思考的東西。
創新必須持續
ChatGPT 在 2022 年推出後不久迅速走紅,全球科技公司開始投資數十億美元構建生成式 AI 模型。Sunak 和 Yeol 提到了快速發展的創新,因爲每天都有新的 AI 模型推出。他們說,
“政府可以通過投資數十億美元、推動世界一流大學的尖端研究以及確保不過度監管可能產生下一個偉大創意的初創企業來促進這種創新。”
生成式人工智能模型的支持者稱讚這項技術是一項突破,它將改善全球人們的生活和業務,因爲它可以根據簡單的提示生成文本、照片、音樂甚至視頻。
其中一些受到公衆關注的產品本身就存在偏見,這令人擔憂。
另請閱讀:人工智能專家在 Fidic 全球領導力論壇上表示,與人工智能合作至關重要
不僅如此,這些產品背後的技術被稱爲大型語言模型 (LLM),也已成爲不同行業許多解決方案的基礎技術。從自動駕駛汽車到醫療解決方案,許多解決方案都依賴於生成式 AI LLM 來發揮作用。
仍有擔憂的聲音
許多人要求制定國際準則來控制人工智能的發展和應用。例如,總部位於紐約的一個名爲“禁止掃描”的運動要求停止在政府和私人層面使用面部識別。
他們認爲這些技術干擾了個人自由,誤報率很高。電子前沿基金會的一頁寫道:
“人臉識別對隱私、種族平等、言論自由和信息安全構成威脅。所有形式的人臉識別,包括人臉掃描和實時跟蹤,都對公民自由和個人隱私構成威脅。”
他們並不是唯一的受害者。人權倡導者、政府和批評人士警告稱,人工智能可能被濫用於許多方面。例如,非國家行爲者可以利用人工智能通過虛假新聞報道或所謂的“深度僞造”民選官員圖像和視頻來影響選民。另一個日益加深的擔憂是,有報道稱各國爲了自己的利益而支持不法分子。
“我們還將採取下一步措施,制定全球標準,避免出現惡性競爭。”
兩篇文章均提及上述聲明,並強調在更開放的論壇上討論人工智能的國際規範將大有裨益。與此同時,一些韓國民權組織批評組織者沒有邀請足夠多的發展中國家參加。
法國本週還將舉辦“Viva Technology”大會,該大會由全球最大的奢侈品集團路威酩軒集團 (LVMH) 贊助。過去一年來,法國一直試圖吸引人工智能初創企業,將自己定位爲歐洲人工智能冠軍。
Aamir Sheikh 的 Cryptopolitan 報道