Bang California ban hành 8 dự luật mới, kiểm soát nội dung do AI tạo ra và bảo vệ người dùng khỏi deepfake.

Ngày 19/9, Thống đốc bang California, Gavin Newsom, đã ký ban hành 8 dự luật về trí tuệ nhân tạo (AI), tập trung vào việc kiểm soát nội dung do AI tạo ra, đặc biệt là deepfake. Động thái này của California được đánh giá là có phạm vi ảnh hưởng rộng nhất tại Mỹ, theo Techcrunh.

Hai dự luật quan trọng là SB 926 và SB 981, trực tiếp ngăn chặn việc sử dụng hình ảnh nhạy cảm do AI tạo ra cho mục đích tống tiền và yêu cầu các nền tảng mạng xã hội phải có cơ chế kiểm duyệt nội dung deepfake nhạy cảm.

Dự luật SB 926 quy định rõ hành vi sử dụng hình ảnh nhạy cảm do AI tạo ra để tống tiền là vi phạm pháp luật. Trong khi đó, SB 981 yêu cầu các nền tảng mạng xã hội phải cung cấp kênh báo cáo hình ảnh deepfake nhạy cảm, và tạm thời gỡ bỏ nội dung này cho đến khi được xác minh.

Ngoài ra, dự luật khác là SB 942 cũng yêu cầu các hệ thống AI phổ biến như Dall-E phải công khai rõ ràng nguồn gốc nội dung do AI tạo ra. Điều này giúp người dùng dễ dàng nhận biết các sản phẩm kỹ thuật số do AI tạo ra, từ đó giảm thiểu rủi ro lừa đảo và thông tin sai lệch.

Vấn đề về Deefake

Ba dự luật khác được thông qua là AB 2655, AB 2839 và AB 2355 sẽ tập trung vào việc kiểm soát deepfake trong bầu cử. Các nền tảng trực tuyến lớn như Facebook và X (Twitter) phải dán nhãn hoặc gỡ bỏ deepfake liên quan đến bầu cử, đồng thời các quảng cáo chính trị do AI tạo ra phải được công khai nguồn gốc.

Dự luật AB 2655 yêu cầu các nền tảng trực tuyến lớn như Facebook và X (trước đây là Twitter) phải dán nhãn hoặc gỡ bỏ các nội dung deepfake liên quan đến bầu cử và thiết lập các kênh báo cáo nội dung này. AB 2839 cấm người dùng đăng hoặc chia sẻ các deepfake gây hiểu lầm về các cuộc bầu cử, và AB 2355 yêu cầu các quảng cáo chính trị do AI tạo ra phải được công khai đầy đủ về nguồn gốc.

Ngành công nghiệp điện ảnh cũng nhận được sự điều chỉnh quan trọng với việc thông qua hai dự luật nhằm bảo vệ quyền lợi của các diễn viên. AB 2602 yêu cầu các studio phải được sự đồng ý của diễn viên trước khi tạo ra bản sao giọng nói hoặc hình ảnh của họ bằng AI.

Trong khi đó, AB 1836 cấm việc tạo ra các bản sao kỹ thuật số của các diễn viên đã qua đời mà không có sự cho phép từ gia đình hoặc đại diện của họ.

Thống đốc Newsom trò chuyện với CEO Salesforce Marc Benioff vào thứ Ba trong hội nghị Dreamforce 2024. Nguồn: Techcrunch. Tương lai của AI tại California

Các dự luật mới đã phản ánh nỗ lực của California trong việc cân bằng giữa việc thúc đẩy tiềm năng của AI và kiểm soát các rủi ro tiềm ẩn.

Với 30 dự luật AI khác đang chờ xem xét, California được kỳ vọng sẽ tiếp tục dẫn đầu trong việc thiết lập khung pháp lý cho lĩnh vực AI đang phát triển nhanh chóng này.

Phát biểu tại hội nghị Dreamforce 2024, Thống đốc Newsom nhấn mạnh tầm quan trọng của việc điều chỉnh AI một cách toàn diện và thực tế, vừa đảm bảo an toàn cho người dân vừa không cản trở sự phát triển của công nghệ.