🔍 Sam Altman thừa nhận Cuộc đấu tranh về khả năng diễn giải của OpenAI
#OpenAI , cường quốc công nghệ, đã và đang tạo nên làn sóng với những cải tiến về AI của mình. Nhưng có một nhược điểm: họ vẫn đang vật lộn với một vấn đề cơ bản – hiểu cách thức hoạt động thực sự của AI.
Tại một hội nghị thượng đỉnh gần đây, Giám đốc điều hành OpenAI Sam Altman đã được hỏi về hoạt động bên trong của các mô hình ngôn ngữ lớn (LLM) của họ. Phản ứng của anh ấy? “Chúng tôi chắc chắn chưa giải quyết được khả năng diễn giải.” Nói cách khác, họ vẫn đang cố gắng giải mã những quyết định bí ẩn mà AI của họ đưa ra.
Vấn đề không chỉ xảy ra với OpenAI. Các nhà nghiên cứu trên toàn thế giới đấu tranh để làm sáng tỏ “suy nghĩ” của AI. Hãy tưởng tượng các chatbot gợi ra các câu trả lời như ma thuật, ngay cả khi phải đối mặt với những câu hỏi khó (vâng, thậm chí cả những lời nói dối và châm chọc).
Nhưng vấn đề ở đây là: việc truy tìm kết quả đầu ra của AI trở lại dữ liệu huấn luyện của nó giống như việc đuổi theo những cái bóng. OpenAI bảo vệ dữ liệu của mình giống như một kho báu chứa rồng. Và một báo cáo gần đây của chính phủ Anh đã xác nhận một thực tế nghiệt ngã: các nhà phát triển AI hiểu rất ít về hệ thống của họ.
Vậy giải pháp là gì? Một số công ty AI đang mở hộp đen. Lấy đối thủ cạnh tranh OpenAI là Anthropic làm ví dụ. Họ đang mổ xẻ LLM mới nhất của họ, Claude Sonnet, để hiểu rõ hơn về nó. Nhưng đó mới chỉ là bước khởi đầu—các tính năng họ tìm thấy chỉ là cái nhìn thoáng qua về những gì mô hình đã học được trong quá trình đào tạo.
Vì sao vấn đề này? Bởi vì khả năng diễn giải của AI là rất quan trọng. Hãy tưởng tượng AI siêu thông minh lừa đảo đang tàn phá. Altman thậm chí còn giải tán nhóm “Siêu liên kết” của OpenAI, được giao nhiệm vụ kiểm soát các AI thông minh hơn chúng ta. Bây giờ ông lãnh đạo “ủy ban an toàn và an ninh”.
Cuối cùng, những lời trấn an về tài chính của Altman không thể che giấu sự thật: Hành trình tìm hiểu những sáng tạo của chính OpenAI còn lâu mới kết thúc. Nhưng này, chúng ta càng biết nhiều thì chúng ta sẽ càng an toàn hơn! 🌟🤖🔍
