Trong tuần này, sự xuất hiện của những sản phẩm do các AI tạo sinh tạo ra đang xáo trộn ngành xuất bản học thuật, gióng lên hồi chuông cảnh báo về nguy cơ sai lệch thông tin.

Hai giáo sư triết học Tomasz Żuradzk và Leszek Wroński đã phát hiện ra ba tạp chí thuộc nhà xuất bản Addleton Academic Publishers có vẻ như phần lớn nội dung được tạo ra bằng AI tạo sinh (Gen AI). Điều này được khẳng định qua việc các bài báo trong những tạp chí này đều theo một khuôn mẫu chung, lạm dụng các thuật ngữ phổ biến và hội đồng biên tập của cả ba tạp chí đều giống hệt nhau, bao gồm 10 thành viên đã qua đời và cùng sử dụng một địa chỉ không rõ ràng tại Queens, New York.

Sự tồn tại của các tạp chí “ma” này không chỉ gây ảnh hưởng đến uy tín của các nhà xuất bản mà còn phơi bày lỗ hổng trong hệ thống đánh giá năng lực nghiên cứu. Hệ thống CiteScore, một trong những thước đo uy tín, đã xếp hạng các tạp chí này trong top 10 về nghiên cứu triết học do các tạp chí này liên tục trích dẫn lẫn nhau. Điều này cho thấy việc lợi dụng hệ thống đánh giá nghiên cứu để thăng tiến và tuyển dụng dễ dàng đến mức nào, có thể dẫn đến nguy cơ tương tự trong các ngành nghề tri thức khác.

Theo các giáo sư Żuradzk và Wroński, nếu các tạp chí “ma” và thông tin giả mạo tràn lan, uy tín của toàn bộ hệ thống nghiên cứu khoa học sẽ bị lung lay. Bởi vì, các bảng xếp hạng như CiteScore được sử dụng để đánh giá chất lượng nghiên cứu và đóng vai trò quan trọng trong các quyết định liên quan đến giải thưởng học thuật, tuyển dụng và thăng chức.

Công nghệ này có thể được sử dụng để tạo ra các bài báo giả mạo tinh vi, gây ảnh hưởng tiêu cực đến uy tín của các nhà nghiên cứu chân chính và tạo ra sự bất công trong đánh giá năng lực. Điều này đòi hỏi sự tái cấu trúc toàn diện của hệ thống đánh giá nghiên cứu để đảm bảo rằng chúng phản ánh chính xác hơn chất lượng nghiên cứu thực sự và không bị lợi dụng bởi những nội dung nhân tạo.

Để đối phó với nguy cơ này, cần có những giải pháp đồng bộ để ngăn chặn và xử lý các trường hợp lạm dụng AI trong nghiên cứu khoa học. Các tổ chức và cơ quan chức năng cần nâng cao nhận thức về vấn đề này, đồng thời xây dựng các cơ chế kiểm soát chặt chẽ hơn đối với việc xuất bản khoa học, đảm bảo tính minh bạch và trung thực trong nghiên cứu. Về lâu dài, cần nghiên cứu và phát triển các công cụ hiệu quả hơn để phát hiện và ngăn chặn các bài báo giả mạo, bảo vệ uy tín cho ngành nghiên cứu khoa học.

Đây cũng là lời cảnh tỉnh cho cộng đồng nghiên cứu khoa học về những nguy cơ tiềm ẩn từ AI tạo sinh. Việc đảm bảo tính trung thực và uy tín của hệ thống nghiên cứu là điều tối quan trọng để duy trì sự phát triển bền vững của khoa học trong tương lai.