Một số thành viên của Hạ viện Hoa Kỳ, do Dân biểu Adam Schiff đứng đầu, đang kêu gọi Google giải thích tính năng Tổng quan về AI của mình. Công cụ này được tích hợp vào công cụ tìm kiếm Google, tóm tắt thông tin bằng AI.

Schiff và các nhà lập pháp khác đã viết thư cho Giám đốc điều hành Google Sundar Pichai về tính không chính xác và nguy hiểm của tính năng này. Bức thư nói thêm rằng AI đã lấy thông tin từ các trang web châm biếm và trích dẫn các thuyết âm mưu đã bị vạch trần từ lâu, cung cấp cho người dùng những thông tin sai lệch mà không nghi ngờ gì. 

Bức thư nêu lên mối lo ngại về thông tin sai lệch

Schiff nhấn mạnh những rủi ro của thông tin giả mạo, đặc biệt là trong bối cảnh Google là nguồn cung cấp tin tức và thông tin sức khỏe chính cho nhiều người Mỹ. Bức thư cũng có chữ ký của các Dân biểu Henry C. Johnson, Jr. (D-Ga. ), Donald S. Beyer Jr. (D-Va. ), Pramila Jayapal (D-Wash. ), và Lori Trahan (D-Mass . ), tìm cách làm rõ một số khía cạnh của tính năng Tổng quan về AI. 

Cũng đọc: Tường thuật về AI tăng tốc, tâm lý chuyển sang tăng giá đối với một số tài sản

Các nhà lập pháp cũng muốn biết người dùng được thông báo như thế nào về rủi ro của thông tin sai lệch và khung thời gian để sửa hoặc xóa thông tin sai lệch. 

Tính năng Tổng quan về AI của Google sử dụng mô hình Gemini AI để trích xuất thông tin từ các trang được xếp hạng hàng đầu và cung cấp bản tóm tắt kèm theo các liên kết. Tuy nhiên, tính năng này đã bị cáo buộc đưa ra thông tin sai lệch và gây hiểu lầm. Một số ví dụ bao gồm việc khuyên mọi người dùng đá để lấy vitamin và ủng hộ tôn giáo của Barack Obama. 

Những tranh cãi gần đây nêu bật các vấn đề với nội dung do AI tạo ra

Vào tháng 5 năm 2024, Google đã bị chỉ trích ngay sau khi phát hành Tổng quan về AI ở Hoa Kỳ vì tính năng này gợi ý thêm keo vào bánh pizza để phô mai dính vào. Vào thời điểm viết bài, Google vẫn chưa đưa ra phản hồi trực tiếp cho lá thư của các nhà lập pháp. 

Trong một bài đăng trên blog, Liz Reid, Phó chủ tịch kiêm trưởng bộ phận tìm kiếm của Google, cũng giải thích rằng có vấn đề với tính năng Tổng quan về AI. Reid chỉ ra rằng một trong những vấn đề mà AI gặp phải là nó hoạt động không tốt khi các truy vấn được hỏi không được sao lưu bằng đủ dữ liệu chất lượng cao. Cô ấy chỉ ra rằng khi người dùng nhập một chủ đề cụ thể hoặc hiếm hoặc một chủ đề có chứa châm biếm chẳng hạn, AI sẽ chọn câu trả lời từ các nguồn hạn chế mà nó có và đôi khi các nguồn đó không đáng tin cậy. 

Ngoài ra còn có các cuộc thảo luận về hậu quả tài chính đối với các nhà xuất bản. Các công cụ tìm kiếm dựa trên AI như Google có thể hiển thị bản tóm tắt nội dung từ các nguồn khác nhau mà không hướng lưu lượng truy cập trở lại người tạo, điều này có thể ảnh hưởng đến doanh thu của họ. Điều này đã dẫn đến các hành động lập pháp chẳng hạn như ở California, nơi các nhà lập pháp ủng hộ việc trả tiền cho nhà xuất bản khi các công ty công nghệ sử dụng nội dung của họ.