Một nhóm các nhà lập pháp Hoa Kỳ, do Đại diện Adam Schiff đứng đầu, đã đưa ra cho Giám đốc điều hành Alphabet/Google Sundar Pichai thời hạn là ngày 1 tháng 8 để chấp nhận yêu cầu về thông tin liên quan đến tính năng “Tổng quan về AI” của công ty cho Tìm kiếm.
Tổng quan về AI là cửa sổ tóm tắt hiển thị ở đầu trang Tìm kiếm của Google khi người dùng thực hiện truy vấn. Nó thường chứa một câu trả lời văn bản ngắn, một hình ảnh nếu có liên quan và các liên kết hỗ trợ.
Theo văn phòng của Schiff, trích dẫn nhiều báo cáo, Tổng quan về AI có xu hướng đưa ra thông tin không chính xác và/hoặc có khả năng gây nguy hiểm.
Đơn khiếu nại do văn phòng Schiff công bố và được bốn thành viên khác của quốc hội đồng ký tên, yêu cầu câu trả lời cho 11 câu hỏi về tính năng liên quan đến nỗ lực của công ty nhằm đảm bảo độ chính xác và an toàn cao hơn.
Tổng quan về AI
Một số vấn đề với Tổng quan về AI bắt nguồn từ việc nó không thể xác định rõ ràng liệu một nguồn nhất định có phải là châm biếm hay không. Schiff và các thành viên khác của quốc hội viết: “Tính năng Tổng quan về AI của Google yêu cầu người dùng ăn ít nhất một viên đá mỗi ngày để bổ sung vitamin và khoáng chất,” Schiff và các thành viên khác của quốc hội viết, đồng thời cho biết thêm rằng AI đang trích dẫn trang tin tức châm biếm “The Onion”.
Trong các trường hợp khác, chẳng hạn như khi người dùng bắt đầu báo cáo rằng tổng quan về AI tuyên bố Barack Obama là tổng thống Hồi giáo đầu tiên của Hoa Kỳ, hệ thống AI đã trực tiếp trích dẫn các thuyết âm mưu đã bị vạch trần.
Thư của Schiff thừa nhận những nỗ lực không ngừng của Google trong việc chống lại thông tin sai lệch, nhưng tuyên bố rằng cần phải làm nhiều việc hơn nữa:
“Chúng tôi đánh giá cao nỗ lực của Google trong việc khắc phục những lỗi này bằng cách cải thiện tính năng thông qua thử nghiệm liên tục, gỡ bỏ các phản hồi vi phạm chính sách nội dung của công ty và gắn nhãn các phản hồi do AI tạo ra là thử nghiệm. Tuy nhiên, cần phải làm nhiều hơn nữa để đảm bảo đầy đủ rằng Google có thể vẫn là nguồn thông tin đáng tin cậy và đáng tin cậy cho người Mỹ.”
Lý luận AI
Cho đến nay, không có sự đồng thuận khoa học nào cho rằng những loại vấn đề này thực sự có thể được giải quyết. Bản chất của vấn đề là AI không “suy nghĩ” hay “lý do”, mặc dù cả hai thuật ngữ này đều được sử dụng phổ biến trong hoạt động tiếp thị cho các sản phẩm AI.
Các hệ thống AI sáng tạo bắt chước lời nói của con người nhưng thiếu khả năng hiểu ngữ cảnh hoặc áp dụng kinh nghiệm thu được vào một tình huống.
Những vấn đề này đã tồn tại từ lâu trong lĩnh vực này và đã được chú ý trong các mô hình ngôn ngữ lớn ban đầu như GPT-2 của OpenAI và hệ thống “Galactica” hiện không còn tồn tại của Meta. Hệ thống này đã bị gỡ xuống chỉ sau ba ngày sau phản ứng dữ dội khi ra mắt.
yêu cầu của Mỹ
Để hiểu rõ hơn những nỗ lực của Google, Schiff và các nhà lập pháp đồng nghiệp của ông đã yêu cầu Pichai và Google trả lời trước ngày 1 tháng 8 bằng câu trả lời cho danh sách 11 câu hỏi. Chúng bao gồm các truy vấn về quy trình xếp hạng của công ty, kiểm tra thực tế tự động, độ chính xác, tìm nguồn cung ứng, tính minh bạch và cách công ty làm việc với các cơ quan chức năng để đảm bảo an toàn.
Liên quan: Mất dữ liệu Microsoft Windows làm gián đoạn các công ty tài chính lớn, gây hỗn loạn du lịch
