Các công ty trí tuệ nhân tạo OpenAI và Anthropic gần đây đã đồng ý cung cấp cho Viện An ninh AI Hoa Kỳ quyền truy cập sớm vào bất kỳ mô hình AI mới “quan trọng” nào mà họ phát triển, Cointelegraph đưa tin.

Mặc dù thỏa thuận được cho là được ký kết vì những lo ngại chung về an ninh nhưng vẫn chưa rõ vai trò cụ thể của chính phủ sẽ là gì khi những đột phá công nghệ có ý nghĩa quan trọng về an ninh.

Giám đốc điều hành và đồng sáng lập OpenAI Sam Altman cho biết trên nền tảng truyền thông xã hội X rằng thỏa thuận là một bước cần thiết và nhấn mạnh sự cần thiết của Hoa Kỳ để tiếp tục dẫn đầu ở cấp quốc gia.

Cả OpenAI và Anthropic đều cam kết phát triển trí tuệ nhân tạo tổng hợp (AGI), là AI có thể hoàn thành mọi nhiệm vụ với nguồn nhân lực. Mỗi công ty có điều lệ và sứ mệnh riêng để tạo ra AGI một cách an toàn với cốt lõi là lợi ích con người.

Bằng cách ký thỏa thuận với chính phủ Hoa Kỳ để tiết lộ mẫu mã của họ trước khi sản phẩm được tung ra thị trường, các công ty đang chuyển giao trách nhiệm đó cho chính phủ liên bang.

OpenAI có thể đang trên đà đạt được một bước đột phá, với các dự án “Strawberry” và “Orion” được cho là có khả năng lý luận nâng cao và giải quyết các vấn đề ảo giác trong AI, Cointelegraph đưa tin. Chính phủ Hoa Kỳ đã thấy những công cụ này và các phiên bản nội bộ ban đầu của chúng trong ChatGPT.

Một bài đăng trên blog của Viện Tiêu chuẩn và Công nghệ Quốc gia chỉ ra rằng thỏa thuận và hướng dẫn bảo mật liên quan là tự nguyện đối với các công ty tham gia. Những người ủng hộ lập luận rằng quy định nhẹ nhàng như vậy sẽ giúp tăng trưởng và cho phép ngành tự điều chỉnh.

Tuy nhiên, một trong những vấn đề tiềm ẩn với quy định chạm nhẹ là thiếu minh bạch. Nếu OpenAI hoặc Anthropic thành công, không có yêu cầu pháp lý nào phải tiết lộ thông tin đó nếu chính phủ quyết định công chúng không cần biết.