Viện An toàn Trí tuệ Nhân tạo (AI) của Vương quốc Anh chuẩn bị mở rộng ra quốc tế với một địa điểm mới ở Hoa Kỳ.
Vào ngày 20 tháng 5, Michelle Donelan, Bộ trưởng Công nghệ Vương quốc Anh, đã thông báo rằng viện sẽ mở văn phòng nước ngoài đầu tiên tại San Francisco vào mùa hè.
Thông báo cho biết rằng việc lựa chọn chiến lược văn phòng ở San Francisco sẽ cho phép Vương quốc Anh “khai thác nguồn tài năng công nghệ dồi dào sẵn có ở Vùng Vịnh”, cùng với việc hợp tác với một trong những phòng thí nghiệm AI lớn nhất thế giới nằm giữa London và San Francisco.
Ngoài ra, họ cho biết động thái này sẽ giúp họ “củng cố” mối quan hệ với những người chơi chủ chốt ở Hoa Kỳ để thúc đẩy sự an toàn của AI toàn cầu “vì lợi ích công cộng”.
Hiện tại, chi nhánh London của Viện An toàn AI đã có một đội ngũ gồm 30 người đang trên đà mở rộng quy mô và tiếp thu thêm kiến thức chuyên môn, đặc biệt là trong lĩnh vực đánh giá rủi ro cho các mô hình AI tiên phong.
Donelan cho biết việc mở rộng thể hiện tầm nhìn và sự lãnh đạo của Vương quốc Anh về an toàn AI trong thực tế.
“Đây là thời điểm quan trọng trong khả năng của Vương quốc Anh trong việc nghiên cứu cả rủi ro và tiềm năng của AI từ lăng kính toàn cầu, tăng cường quan hệ đối tác của chúng tôi với Hoa Kỳ và mở đường cho các quốc gia khác khai thác chuyên môn của chúng tôi khi chúng tôi tiếp tục dẫn đầu thế giới về lĩnh vực này”. An toàn AI.”
Điều này diễn ra sau Hội nghị thượng đỉnh An toàn AI mang tính bước ngoặt của Vương quốc Anh diễn ra tại London vào tháng 11 năm 2023. Hội nghị thượng đỉnh này là hội nghị thượng đỉnh đầu tiên tập trung vào an toàn AI trên quy mô toàn cầu.
Liên quan: Microsoft phải đối mặt với khoản phạt hàng tỷ đô la ở EU vì Bing AI
Sự kiện có sự tham gia của các nhà lãnh đạo từ khắp nơi trên thế giới, bao gồm cả Hoa Kỳ và Trung Quốc, cùng những tiếng nói hàng đầu trong không gian AI bao gồm chủ tịch Microsoft Brad Smith, Giám đốc điều hành OpenAI Sam Altman, Giám đốc điều hành Google và DeepMind Demis Hassabiss và Elon Musk.
Trong thông báo mới nhất này, Vương quốc Anh cho biết họ cũng đang công bố một loạt các kết quả gần đây của viện từ thử nghiệm an toàn mà viện đã tiến hành đối với 5 mô hình AI tiên tiến đã được công bố rộng rãi.
Nó ẩn danh các mô hình và cho biết kết quả cung cấp một “ảnh chụp nhanh” về khả năng của các mô hình thay vì chỉ định chúng là “an toàn” hoặc “không an toàn”.
Một phần của các phát hiện bao gồm rằng một số mô hình có thể hoàn thành các thách thức an ninh mạng, trong khi những mô hình khác phải vật lộn với những thách thức tiên tiến hơn. Một số người mẫu được phát hiện có kiến thức ở trình độ tiến sĩ về hóa học và sinh học.
Nó kết luận rằng tất cả các mô hình được thử nghiệm đều “rất dễ bị tổn thương” trước các lần bẻ khóa cơ bản và các mô hình được thử nghiệm không thể hoàn thành “các nhiệm vụ phức tạp, tốn thời gian” hơn nếu không có sự giám sát của con người.
Ian Hogearth, chủ tịch viện, cho biết những đánh giá này sẽ giúp góp phần đánh giá thực nghiệm về khả năng của mô hình.
“An toàn AI vẫn là một lĩnh vực còn rất non trẻ và mới nổi. Những kết quả này chỉ đại diện cho một phần nhỏ trong phương pháp đánh giá mà AISI đang phát triển.”
Tạp chí:'Sic AI chồng chéo lên nhau' để ngăn chặn ngày tận thế AI: David Brin, tác giả khoa học viễn tưởng