Một mô hình chatbot AI mới có tên "Reflection 70B" đã được trình làng và hứa hẹn sẽ giải quyết được một vấn đề đang gây khó khăn cho nhiều mô hình AI: ảo giác.
Điều chỉnh phản ánh: học hỏi từ những sai lầm
Mô hình này được đào tạo bằng cách sử dụng “điều chỉnh phản xạ”, một kỹ thuật cho phép AI học hỏi và sửa lỗi của chúng.
Matt Shumer, Giám đốc điều hành của HyperWrite AI, gọi Reflection 70B là “mô hình nguồn mở tốt nhất thế giới”. Nó được phát triển dựa trên Llama 3.1, một mô hình AI nguồn mở của Meta và được cho là có thể cạnh tranh ở một số điểm chuẩn với các mô hình đóng như Claude 3.5 Sonnet của Anthropic và GPT-4o của OpenAI.
Ảo giác: Một vấn đề đối với các mô hình AI
Ảo giác AI xảy ra khi chatbot AI nhận thức được các mẫu hoặc vật thể không tồn tại hoặc con người không thể nhận ra. Điều này dẫn đến đầu ra không chính xác.
Điều chỉnh phản xạ nhằm mục đích giải quyết vấn đề này bằng cách cho phép AI nhận ra và sửa lỗi của chính chúng trước khi đưa ra phản hồi.
Điều chỉnh phản xạ hoạt động như thế nào?
AI phân tích chi tiêu của chính mình và học hỏi từ nó. Nó xác định điểm mạnh, điểm yếu và các lĩnh vực có thể được cải thiện. Quá trình này được lặp lại, cho phép AI liên tục cải thiện khả năng của mình và nhận thức rõ hơn về chi tiêu của chính mình.
Cách tiếp cận của OpenAI để chống ảo giác
OpenAI, được hỗ trợ bởi Microsoft, đã xuất bản một bài nghiên cứu vào năm 2023 trình bày các ý tưởng ngăn ngừa ảo giác AI.
Một ý tưởng là “giám sát quá trình”, trong đó các mô hình AI được khen thưởng khi khen thưởng cho từng bước lý luận chính xác trong việc đưa ra câu trả lời, thay vì chỉ khen thưởng cho một kết luận đúng.
Karl Cobbe, nhà nghiên cứu tại OpenAI, nói với CNBC: “Việc phát hiện và giảm thiểu các lỗi logic hoặc ảo giác của mô hình là một bước quan trọng để phát triển AGI [trí tuệ nhân tạo] phù hợp”.
Suy Nghĩ 70B: Một cách tiếp cận đầy hứa hẹn
“Reflection 70B” có thể là một bước quan trọng hướng tới các mô hình AI chính xác và đáng tin cậy hơn. Khả năng học hỏi từ những sai lầm là rất quan trọng để phát triển các hệ thống AI thực sự có thể mang lại lợi ích cho con người.
#Reflection70B #News #Haberler #Noticias #Nachrichten
