加州州長加文·紐瑟姆剛剛通過了一項嚴格的新法律，以打擊選舉期間政治主題的人工智能深度僞造。
幾周前，埃隆·馬斯克在 X 上重新發布了卡瑪拉·哈里斯競選廣告的模仿版本，獲得了數百萬的觀看次數，並使用人工智能語音處理讓哈里斯看起來像是稱自己爲不稱職的總統候選人。
7 月底，紐瑟姆特別提到了馬斯克的帖子，並誓言將在“幾周內”簽署一項法案，禁止這種做法。
卡馬拉·哈里斯競選廣告模仿 pic.twitter.com/5lBxvyTZ3o
— 里根先生🇺🇸（@MrReaganUSA） 2024 年 7 月 26 日
這項名爲 AB 2839 的新法律立即生效，有效禁止個人和團體故意分享選舉深度僞造和其他“實質性欺騙性內容”。
現行法律僅禁止在選舉前 60 天內分發候選人的具有實質欺騙性的音頻或視頻媒體。新法律將禁令延長至加州選舉前 120 天，在某些情況下，甚至延長至選舉後 60 天。
紐森還在同一天簽署了另外兩項旨在打擊政治人工智能深度僞造的法律，但這兩項法律要到明年 1 月纔會生效。
來源：Gavin Newsom
其中一項法律 AB 2355 要求在使用人工智能生成或大幅修改的政治廣告上貼上標籤。
另一項法案 AB 2655 要求擁有超過 100 萬加州用戶的社交媒體平臺（例如 Facebook 和 X）在特定時期內屏蔽與選舉有關的欺騙性內容。
該法案還將規定，平臺若未能在收到用戶報告後 72 小時內刪除內容，則需承擔責任。
這三項法律僅適用於加利福尼亞州，據瞭解，州長在舊金山 Dreamforce 大會上與 Salesforce 首席執行官馬克·貝尼奧夫 (Marc Benioff) 的爐邊談話中籤署了這三項法案。
消費者權益保護組織公民公共利益研究小組民主團隊組織經理伊拉娜·貝勒告訴《紐約時報》：“它與其他已提出的法案非常不同。”
與此同時，紐森於 9 月 17 日簽署了另外兩項法案 AB 1836 和 AB 2602，旨在爲表演者在其數字肖像的使用方面提供更大的保護。
加文·紐瑟姆（左下）簽署人工智能法案，保護表演者免受人工智能濫用。來源：Instagram
這則虛假的哈里斯競選模仿廣告於 7 月 26 日發佈，僅在 X 上的觀看次數就已達到 2540 萬次，並且至今仍可在該平臺上觀看。
馬斯克後來爲當時轉發原帖的行爲進行辯護，並嘲諷紐瑟姆：
“我向世界著名權威 Suggon Deeznutz 教授覈實過，他說在美國戲仿是合法的”
雜誌：臺灣的人工智能無人機“地獄景觀”計劃，法學碩士太愚蠢，無法摧毀人類：AI Eye
