Google đang sử dụng trí tuệ nhân tạo để trả lời các câu hỏi liên quan đến vấn đề sức khỏe. Một số nhà phân tích nhận thấy điều này đáng lo ngại vì tính năng Tổng quan về AI có thể cung cấp thông tin không đáng tin cậy.
Các bác sĩ y khoa nói rằng Tổng quan về AI có thể là một mối lo ngại, đặc biệt là khi trả lời các câu hỏi về sức khỏe cá nhân. Họ lập luận rằng tính năng này có khả năng cung cấp thông tin không chính xác mặc dù nó cũng có thể hướng dẫn mọi người hướng dẫn điều trị y tế cần thiết, theo một báo cáo gần đây của New York Times.
Lỗi tìm kiếm Tổng quan về AI gây ra ảo giác về AI
Google đã giới thiệu Tổng quan về AI, một tính năng tạo bản tóm tắt nội dung từ các trang web và hiển thị chúng trên trang kết quả tìm kiếm của Google. Trong vòng vài ngày sau khi ra mắt, tính năng này đã bộc lộ nhiều điểm không chính xác vì nó đưa ra câu trả lời dựa trên các nguồn sai sót. Một sự cố càng làm tăng thêm quan điểm rằng AI dễ bị ảo giác và có thể tạo ra thông tin không chính xác về mặt thực tế.
Cũng đọc: Google giới hạn Tổng quan về AI đối với các truy vấn châm biếm và vô nghĩa
Các kết quả tìm kiếm liên quan đến sức khỏe cung cấp một lượng đá hàng ngày hoặc yêu cầu người dùng ăn pizza dán keo đã tạo ra phản ứng dữ dội. Tổng quan về AI trích dẫn các nguồn như Tổ chức Y tế Thế giới, WebMD, PubMed và Mayo Clinic. Tuy nhiên, chúng không giới hạn ở những nguồn này. Các nhà phân tích nói rằng công cụ này lấy thông tin từ Reddit, Wikipedia, các blog khác nhau và các trang thương mại điện tử.
Hema Budaraju, giám đốc quản lý sản phẩm cấp cao của Google, cho biết có thêm các biện pháp bảo vệ cho các truy vấn liên quan đến sức khỏe, nhưng cô từ chối tiết lộ thêm bất kỳ chi tiết nào. Hema nói thêm rằng một số truy vấn không kích hoạt Tổng quan về AI, chẳng hạn như nếu hệ thống cảm nhận được tình huống tự làm hại bản thân.
Google cho biết AI Tổng quan tích hợp với Google Knowledge Graph, một cơ sở kiến thức chứa dữ liệu được lấy từ nhiều nguồn, nhưng không cung cấp thông tin chi tiết về các trang web hỗ trợ đầu ra của tính năng tìm kiếm được hỗ trợ bởi AI.
Google hiển thị thêm Tổng quan về AI cho các truy vấn về sức khỏe
Các kết quả truyền thống, thường được gọi là “mười liên kết màu xanh”, rất hữu ích cho người dùng vì họ có thể phân biệt giữa các nguồn y tế uy tín và các liên kết được trả tiền hoặc các trang web kém tin cậy hơn. Với Tổng quan về AI, kịch bản đã thay đổi. Giờ đây, một khối văn bản hiển thị thông tin được thu thập từ nhiều nguồn khác nhau, theo các nhà phân tích, điều này gây nhầm lẫn.
Kate Knibbs của Wired đã nói trong một podcast:
“Nếu bạn gõ thứ gì đó về bệnh hen suyễn hoặc tôi mắc bệnh tiểu đường hoặc về cơ bản nếu bạn đang tìm kiếm bất cứ thứ gì liên quan đến bệnh tật, rất có thể cho đến ngày nay bạn vẫn thấy Tổng quan về AI. Ý tôi là, không phải tất cả mọi người; nó vẫn còn khoảng 63 phần trăm. Và tôi nghĩ điều đó còn tùy.”
Một số bác sĩ, như Tiến sĩ Dariush Mozaffarian, nói rằng Tổng quan về AI cho thấy một số sự thật đúng và tóm tắt chúng thành câu trả lời, nhưng họ không phân biệt giữa bằng chứng từ các nghiên cứu quan sát và thử nghiệm ngẫu nhiên.
Một lớp thông tin sai lệch khác được thêm vào khi tính năng này làm xáo trộn thông tin. Ví dụ: “Trà xanh chứa chất chống oxy hóa và giúp ngăn ngừa ung thư”. Trong khi điều trước là đúng thì điều sau chưa được chứng minh lâm sàng. Khi những tuyên bố như vậy được liệt kê cùng nhau, chúng sẽ gây ấn tượng sai lầm rằng chúng đáng tin cậy.
Google đã hạn chế Tổng quan về AI
Những người quan sát quá trình triển khai AI khuyên nên thận trọng khi tiếp cận các kết quả tìm kiếm AI liên quan đến sức khỏe. Họ nói rằng người dùng nên xem xét bản in đẹp trong một số câu trả lời có nội dung: "Đây chỉ nhằm mục đích cung cấp thông tin." Báo cáo của NYTimes lưu ý rằng AI tổng hợp đang trong giai đoạn thử nghiệm và người dùng nên tham khảo ý kiến bác sĩ trong bất kỳ tình trạng nghiêm trọng nào.
Cũng đọc: Các bản cập nhật thuật toán cốt lõi của Google và Tổng quan về AI đang làm giảm lưu lượng truy cập của nhà xuất bản
Trong một tuyên bố vào ngày 30 tháng 5, Google cho biết họ đã cắt giảm việc sử dụng Tổng quan về AI trong một số danh mục. Dữ liệu từ công ty SEO, Brightedge, chứng thực quan điểm của Google, cho thấy rằng việc cắt giảm đã bắt đầu ngay cả trước thông báo của công ty.
Các báo cáo khác cũng nói rằng Google đã bắt đầu gỡ bỏ phần Tổng quan về AI đối với một số danh mục nhất định ngay cả trước khi cư dân mạng bắt đầu chế nhạo nó vì những câu trả lời vô nghĩa. Tuy nhiên, có những tuyên bố rằng danh mục sức khỏe tiếp tục hiển thị số lượng lớn Tổng quan về AI. Knibbs nói,
“Tôi đã nói chuyện với một số nhà nghiên cứu SEO khác, những người cũng nhận thấy rằng ngành chăm sóc sức khỏe vẫn đang tạo ra rất nhiều Tổng quan về AI.”
Knibbs cho biết cô đã thử nghiệm một số truy vấn liên quan đến sức khỏe và tìm thấy các kết quả khác nhau trong vòng vài giờ sau khi thử, điều này cho thấy Google đang nỗ lực cải thiện kết quả. Cô ấy nói: “Được rồi, họ đang cố gắng. Tôi không biết liệu họ có làm tốt công việc hay không nhưng họ chắc chắn đang cố gắng.”
Báo cáo về tiền điện tử của Aamir Sheikh
