Các công ty trí tuệ nhân tạo OpenAI và Anthropic gần đây đã đồng ý cấp cho Viện An toàn AI của Hoa Kỳ quyền truy cập sớm vào bất kỳ mô hình AI mới “chính” nào do các công ty tương ứng của họ phát triển.
Trong khi thỏa thuận được cho là đã được ký kết dựa trên những lo ngại chung về an toàn, vẫn chưa rõ chính xác vai trò của chính phủ sẽ là gì trong trường hợp có đột phá về công nghệ có tác động đáng kể đến an toàn.
Giám đốc điều hành và đồng sáng lập của OpenAI, Sam Altman coi thỏa thuận này là một bước đi cần thiết trong bài đăng gần đây trên nền tảng truyền thông xã hội X.
OpenAI và Anthropic đều hướng đến cùng một mục tiêu: phát triển trí tuệ nhân tạo tổng quát (AGI). Không có sự đồng thuận khoa học nào về cách chính xác mà AGI nên được định nghĩa, nhưng ý tưởng cơ bản là AI có khả năng làm bất cứ điều gì mà con người có thể làm khi có đủ nguồn lực cần thiết.
Cả hai công ty, riêng biệt, đều có điều lệ và sứ mệnh giải thích rằng mục tiêu độc lập của họ là tạo ra AGI một cách an toàn với lợi ích cốt lõi của nhân loại. Nếu một hoặc cả hai công ty thành công, họ sẽ trở thành người gác cổng công nghệ trên thực tế có khả năng truyền cho máy móc trí thông minh của con người.
Khi ký thỏa thuận với chính phủ Hoa Kỳ để tiết lộ thông tin về các mô hình của họ trước khi ra mắt bất kỳ sản phẩm nào, cả hai công ty đều chuyển giao trách nhiệm đó cho chính phủ liên bang.
Khu vực 51
Như Cointelegraph đã đưa tin gần đây, OpenAI có thể đang trên bờ vực đột phá. Các dự án "Strawberry" và "Orion" của công ty được cho là có khả năng lập luận tiên tiến và các kỹ thuật mới để giải quyết vấn đề ảo giác của AI.
Theo báo cáo từ The Information, chính phủ Hoa Kỳ đã thấy các công cụ này và bất kỳ phiên bản nội bộ ban đầu nào của ChatGPT được triển khai.
Một bài đăng trên blog từ Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ cho biết thỏa thuận này và các hướng dẫn an toàn liên quan đều là thỏa thuận tự nguyện đối với các công ty tham gia.
Theo các công ty và nhà phân tích ủng hộ, lợi ích của hình thức quản lý nhẹ nhàng này là thúc đẩy tăng trưởng và cho phép lĩnh vực này tự quản lý. Những người ủng hộ, chẳng hạn như Altman, trích dẫn thỏa thuận này như một ví dụ về cách thức hợp tác như vậy có thể mang lại lợi ích cho cả chính phủ và thế giới doanh nghiệp.
Tuy nhiên, một trong những tác dụng phụ có khả năng gây lo ngại của quy định nhẹ nhàng là thiếu minh bạch. Nếu OpenAI hoặc Anthropic thành công trong nhiệm vụ của họ và chính phủ cảm thấy công chúng không cần biết, thì dường như không có động lực pháp lý nào yêu cầu phải tiết lộ.
Có liên quan: Giám đốc điều hành của Anthropic cho biết tương lai của AI là một khối óc tập thể với cấu trúc công ty
