Google, Microsoft, Nvidia và OpenAI cùng nhiều hãng khác đã ra mắt CoSAI để tạo ra các tiêu chuẩn an toàn và bảo mật AI mạnh mẽ trong bối cảnh mối lo ngại ngày càng tăng.
CoSAI đặt mục tiêu tạo ra các hệ thống AI được thiết kế an toàn bằng cách sử dụng các khung nguồn mở.
Ngoài Google, các thành viên sáng lập bao gồm Amazon, Anthropic, Cisco, Cohere, IBM, Intel, Microsoft, Nvidia, OpenAI, PayPal và Wiz.
Những gã khổng lồ công nghệ Google, Microsoft, Nvidia và OpenAI, cùng nhiều hãng khác, đã thành lập Liên minh An toàn AI (CoSAI) để giải quyết các mối lo ngại về an toàn AI.
Được công bố tại Diễn đàn bảo mật Aspen, CoSAI nhằm mục đích thiết lập các khuôn khổ và tiêu chuẩn bảo mật mạnh mẽ để phát triển và triển khai AI. Sáng kiến này xuất hiện vào thời điểm quan trọng khi bối cảnh AI tiếp tục phát triển nhanh chóng.
Google công bố CoSAI vì sự an toàn của AI
CoSAI, do Google dẫn đầu, tập hợp các công ty và tổ chức công nghệ hàng đầu để giải quyết các thách thức về bảo mật AI.
Theo thông báo, các thành viên sáng lập bao gồm Amazon, Anthropic, Cisco, Cohere, IBM, Intel, Microsoft, Nvidia, OpenAI, PayPal và Wiz.
Đáng chú ý, liên minh này nhằm mục đích tạo ra các hệ thống AI được thiết kế an toàn, tận dụng các phương pháp nguồn mở và các khuôn khổ được tiêu chuẩn hóa để thúc đẩy niềm tin và tính bảo mật trong AI.
Thông báo nhấn mạnh tầm quan trọng của khung bảo mật cho trí tuệ nhân tạo (AI), được xây dựng trên Khung AI an toàn (SAIF) đã được giới thiệu trước đó của họ.
CoSAI đặt mục tiêu thúc đẩy các biện pháp bảo mật toàn diện cho AI, giải quyết cả những rủi ro hiện tại và mới nổi. Ngoài ra, liên minh sẽ tập trung vào ba luồng công việc ban đầu: bảo mật chuỗi cung ứng phần mềm cho hệ thống AI, chuẩn bị cho những người bảo vệ trong bối cảnh an ninh mạng đang thay đổi và quản trị bảo mật AI.
Các quy trình công việc này nhằm mục đích phát triển các phương pháp thực hành tốt nhất, khung đánh giá rủi ro và chiến lược giảm thiểu nhằm tăng cường bảo mật AI trên toàn ngành.
