加州立法者修改了一項有爭議的法案，要求人工智能公司對其產品造成的危害負責，以迴應行業的批評。然而，目前尚不清楚該州的讓步是否足以說服科技行業的反對者。

該法案名爲“前沿人工智能模型安全創新法案”（SB-1074），主要目的是保護舉報人，並授權加利福尼亞州在有理由相信將發生與人工智能相關的災難時進行干預。

正如 Cointelegraph 最近報道的那樣，科技行業對該法案的規定有些不滿，許多科技界知名人士警告說，該法案將扼殺創新和增長。

扼殺創新

按照最初的方案，該法案將允許州政府起訴疏忽安全措施的公司，即使這些違規行爲並未導致災難性事件。該法案還將設立一個政府監督委員會，負責實施和執行上述安全措施。

在收到科技行業的負面反饋，包括人工智能公司 Anthropic 提出的一系列建議後，加州參議員斯科特·韋納 (Scott Weiner) 聲稱，他的辦公室相信他們已經找到了一個折衷方案：

“我們接受了提出的一些非常合理的修改，我相信我們已經解決了 Anthropic 和業內許多其他人表達的核心擔憂，”

核心關注點

然而，根據該法案的新措辭，很明顯立法者仍未解決科技界的核心擔憂。州政府是否可以在災難發生前提起訴訟或僅僅發佈禁令與責任這一基本問題無關。

SB-1074 仍將允許州政府要求任何 AI 開發者對其產品造成的危害負責。在許多情況下，幾乎不可能預測 AI 模型可能以何種方式表現出“危害”。

該法案的下一步是進行最後的議會投票，根據時間表，投票必須在 8 月 31 日之前完成。屆時，除非州長決定否決該法案，否則在加州運營的科技公司將面臨與美國其他州不同的監管環境。

相關：人工智能研究人員希望通過要求使用互聯網時提供身份證來解決機器人問題