加州州长加文·纽瑟姆刚刚通过了一项严格的新法律，以打击选举期间政治主题的人工智能深度伪造。
几周前，埃隆·马斯克在 X 上重新发布了卡玛拉·哈里斯竞选广告的模仿版本，获得了数百万的观看次数，并使用人工智能语音处理让哈里斯看起来像是称自己为不称职的总统候选人。
7 月底，纽瑟姆特别提到了马斯克的帖子，并誓言将在“几周内”签署一项法案，禁止这种做法。
卡马拉·哈里斯竞选广告模仿 pic.twitter.com/5lBxvyTZ3o
— 里根先生🇺🇸（@MrReaganUSA） 2024 年 7 月 26 日
这项名为 AB 2839 的新法律立即生效，有效禁止个人和团体故意分享选举深度伪造和其他“实质性欺骗性内容”。
现行法律仅禁止在选举前 60 天内分发候选人的具有实质欺骗性的音频或视频媒体。新法律将禁令延长至加州选举前 120 天，在某些情况下，甚至延长至选举后 60 天。
纽森还在同一天签署了另外两项旨在打击政治人工智能深度伪造的法律，但这两项法律要到明年 1 月才会生效。
来源：Gavin Newsom
其中一项法律 AB 2355 要求在使用人工智能生成或大幅修改的政治广告上贴上标签。
另一项法案 AB 2655 要求拥有超过 100 万加州用户的社交媒体平台（例如 Facebook 和 X）在特定时期内屏蔽与选举有关的欺骗性内容。
该法案还将规定，平台若未能在收到用户报告后 72 小时内删除内容，则需承担责任。
这三项法律仅适用于加利福尼亚州，据了解，州长在旧金山 Dreamforce 大会上与 Salesforce 首席执行官马克·贝尼奥夫 (Marc Benioff) 的炉边谈话中签署了这三项法案。
消费者权益保护组织公民公共利益研究小组民主团队组织经理伊拉娜·贝勒告诉《纽约时报》：“它与其他已提出的法案非常不同。”
与此同时，纽森于 9 月 17 日签署了另外两项法案 AB 1836 和 AB 2602，旨在为表演者在其数字肖像的使用方面提供更大的保护。
加文·纽瑟姆（左下）签署人工智能法案，保护表演者免受人工智能滥用。来源：Instagram
这则虚假的哈里斯竞选模仿广告于 7 月 26 日发布，仅在 X 上的观看次数就已达到 2540 万次，并且至今仍可在该平台上观看。
马斯克后来为当时转发原帖的行为进行辩护，并嘲讽纽瑟姆：
“我向世界著名权威 Suggon Deeznutz 教授核实过，他说在美国戏仿是合法的”
杂志：台湾的人工智能无人机“地狱景观”计划，法学硕士太愚蠢，无法摧毁人类：AI Eye
