Cơ quan An ninh mạng và Cơ sở hạ tầng (CISA) đã công bố các khuyến nghị mới phù hợp với sự nhấn mạnh của Bộ An ninh Nội địa (DHS) về an toàn AI, được nhấn mạnh bằng cách thành lập một ban an toàn và bảo mật đặc biệt cách đây không lâu.

Hướng dẫn của CISA về bảo mật AI trong các lĩnh vực quan trọng

Các hướng dẫn vừa được ban hành dành cho chủ sở hữu và nhà điều hành của sáu lĩnh vực được chỉ định là cơ sở hạ tầng quan trọng, được phục vụ bởi các lĩnh vực như nông nghiệp, y tế và công nghệ thông tin. Hướng dẫn này là bộ yêu cầu tối thiểu giúp hệ thống AI trở nên an toàn và linh hoạt bằng cách sử dụng các công nghệ AI có trách nhiệm. Các phương pháp tư vấn này cung cấp hướng dẫn về quản trị, đánh giá rủi ro và quản lý liên tục các quy trình liên quan đến AI.

Các nhà điều hành có thể áp dụng khuôn khổ quản lý rủi ro AI của NIST để liên tục đánh giá tác động và rủi ro liên quan đến việc triển khai AI. Những điều này bao gồm xác định vị trí phụ thuộc của AI và các tác động môi trường mà công nghệ gây ra và cố gắng giải quyết bất kỳ lỗ hổng nào được nêu ra. Các quy tắc nhắc nhở về việc tiến hành kiểm kê AI về các mục đích sử dụng và tạo ra các quy trình đặc biệt để báo cáo các rủi ro an toàn liên quan đến AI mà các hướng dẫn khuyến nghị.

CISA thừa nhận rằng các CISO cần biết đường dẫn quan trọng của chuỗi cung ứng AI và kiểm tra các hệ thống AI để xác định các lỗ hổng bảo mật. Bằng cách nhấn mạnh vào các lĩnh vực cụ thể, chủ sở hữu cơ sở hạ tầng phải đối mặt với các rủi ro liên quan đến AI trên diện rộng, bao gồm lỗi thiết kế, tấn công mạng và vi phạm bảo mật vật lý.

Vai trò kép của AI trong cơ sở hạ tầng quan trọng

Tài liệu chứng minh rằng AI có cơ hội chuyển đổi hoạt động quản lý cơ sở hạ tầng quan trọng bằng cách đưa vào khả năng cảm biến rộng rãi về môi trường bên ngoài, tự động hóa dịch vụ khách hàng, cải thiện an ninh vật lý và giúp dự báo chính xác hơn.

Mặc dù sự đổi mới này sẽ giúp hệ thống cơ sở hạ tầng trở nên mạnh mẽ hơn trên mọi phương diện, nhưng cũng có khả năng khiến chúng dễ bị tấn công và hư hỏng hơn.

Những hướng dẫn này chỉ là một yếu tố trong các sáng kiến ​​rộng hơn của Bộ An ninh Nội địa nhằm khắc phục sự phức tạp của việc đưa công nghệ AI vào khuôn khổ an ninh quốc gia của mình. Sự phổ biến của AI có hai mặt: việc triển khai công nghệ thay đổi cuộc chơi này và mối đe dọa mà nó gây ra đối với cơ sở hạ tầng nhạy cảm cho các hệ thống quan trọng nhắc nhở Bộ trưởng An ninh Nội địa Alejandro Mayorkas. Nhóm rủi ro rất phản ứng với tình hình và thực hiện các sáng kiến ​​chiến lược để xác định và giảm thiểu các mối nguy tiềm ẩn thông qua sự hợp tác của các chuyên gia.

Các sáng kiến ​​AI của DHS

DHS đã trình bày chiến lược AI của mình vào đầu năm, vạch ra lộ trình DBDS và công bố ra mắt AI Corps. Nhóm này năm 2024 sẽ bao gồm 50 chuyên gia, được coi là những người có kỹ năng, nhằm mục đích thúc đẩy năng lực AI của cơ quan. Hội đồng quản trị mới sẽ bao gồm những người có tầm ảnh hưởng lớn trong lĩnh vực công nghệ, chẳng hạn như Sam Altman từ OpenAI và Sundar Pichai đại diện cho Alphabet Company.

Nhiệm vụ của CISA trong Hướng dẫn AI mới không chỉ là hoàn thành nhiệm vụ của mình theo lệnh hành pháp liên quan đến AI gần đây của chính quyền Biden mà còn là đưa ra ví dụ đầu tiên về các phân tích rủi ro tương tự có thể được tiến hành trong nhiều lĩnh vực khác nhau của xã hội. Theo cách này, Chính phủ Hoa Kỳ nhấn mạnh vai trò lãnh đạo của mình trong "ma trận an ninh cơ sở hạ tầng quan trọng", có mối tương quan cao với trí tuệ nhân tạo ngày nay.

Tin tức có nguồn từ fedscoop