Chính phủ Anh đã công bố kế hoạch mở văn phòng nước ngoài đầu tiên cho Viện An toàn AI tại Hoa Kỳ vào mùa hè này.

Cũng đọc: Vai trò của Thỏa thuận an toàn AI của Vương quốc Anh và Hoa Kỳ trong sự phát triển công nghệ

Trong một tuyên bố được công bố hôm thứ Hai, Bộ trưởng Khoa học và Công nghệ Vương quốc Anh Michelle Donelan cho biết văn phòng mới của Hoa Kỳ sẽ được đặt tại San Francisco. Thành phố này có một số công ty AI lớn nhất, bao gồm OpenAI, Anthropic và Inflection AI.

Vương quốc Anh mong muốn tăng cường quan hệ đối tác với Hoa Kỳ về An toàn AI

Văn phòng có trụ sở tại Hoa Kỳ sẽ tìm cách tuyển dụng một đội ngũ nhân viên kỹ thuật do Giám đốc Nghiên cứu đứng đầu khi bắt đầu hoạt động vào cuối năm nay. Trụ sở chính của Viện ở London hiện có đội ngũ kỹ thuật trên 30 người.

Bộ trưởng Công nghệ cho biết việc mở rộng Viện thể hiện sự lãnh đạo của Anh trong lĩnh vực AI và sẽ thiết lập sự hợp tác chặt chẽ với chính phủ Hoa Kỳ. 

Đây là thời điểm quan trọng trong khả năng của Vương quốc Anh trong việc nghiên cứu cả rủi ro và tiềm năng của AI từ lăng kính toàn cầu, tăng cường quan hệ đối tác của chúng tôi với Hoa Kỳ và mở đường cho các quốc gia khác khai thác chuyên môn của chúng tôi khi chúng tôi tiếp tục dẫn đầu thế giới về AI sự an toàn.

Michelle Donelan, Bộ trưởng Khoa học và Công nghệ Vương quốc Anh.

Donelan cho biết Viện đã phát triển từ “Sức mạnh thành sức mạnh”

Chính phủ Vương quốc Anh đã thành lập Viện An toàn AI vào tháng 11 năm 2023. Viện cho biết mục tiêu là “giảm thiểu những bất ngờ đối với Vương quốc Anh và nhân loại trước những tiến bộ nhanh chóng và bất ngờ trong AI”. 

Cũng đọc: Chính phủ Vương quốc Anh công bố thành lập Viện An toàn AI

Viện chủ yếu tập trung vào việc đánh giá các hệ thống AI “biên giới” từ lăng kính an ninh quốc gia. Bằng biện pháp này, chính phủ Anh cho biết họ sẽ có thể phát triển các phản ứng chính sách và quy định hiệu quả đối với các ứng dụng AI được triển khai trong phạm vi quyền hạn của mình.

Kể từ khi tôi và Thủ tướng thành lập Viện An toàn AI, nó đã phát triển ngày càng mạnh mẽ chỉ trong hơn một năm.

Michelle Donelan, Bộ trưởng Khoa học và Công nghệ Vương quốc Anh.

Viện công bố kết quả thử nghiệm mô hình của mình

Viện An toàn AI của Vương quốc Anh được cho là tổ chức đầu tiên được chính phủ hậu thuẫn công bố kết quả từ các thử nghiệm an toàn mô hình AI của mình. Viện đã thử nghiệm năm mô hình ngôn ngữ lớn có sẵn công khai, mặc dù không nêu rõ tên. 

An toàn AI vẫn là một lĩnh vực còn rất trẻ và mới nổi. […] Tham vọng của chúng tôi là tiếp tục nâng tầm lĩnh vực này bằng cách phát triển các đánh giá tiên tiến nhất, tập trung vào các rủi ro liên quan đến an ninh quốc gia.

Ian Hogarth, Chủ tịch Viện An toàn AI của Vương quốc Anh.

Nó cho biết một số mô hình đã hoàn thành các thách thức an ninh mạng của mình. Tuy nhiên, tất cả chúng đều tỏ ra rất dễ bị tổn thương trước các “bẻ khóa” cơ bản. Một số mô hình đã tạo ra kết quả có hại ngay cả khi không có nỗ lực cố ý nào nhằm phá vỡ các biện pháp bảo vệ.

Báo cáo về tiền điện tử của Ibiam Wayas