Cuộc họp đầu tiên của Ban cố vấn AI của Bộ An ninh Nội địa đã được tổ chức vào thứ Hai tuần này. Hội đồng nhằm mục đích cải thiện việc xử lý triển khai công nghệ trí tuệ nhân tạo và bảo vệ công nghệ trước các mối đe dọa từ bên ngoài.

Giải quyết các thành kiến ​​​​AI và rủi ro bảo mật

Trong phiên hỏi đáp với các phóng viên tại hội nghị RSA và bài phát biểu quan trọng với các nhân viên, Mayorkas đã thảo luận về vấn đề bảo mật AI và kết quả thảo luận trong cuộc họp đầu tiên của hội đồng quản trị. Các thành viên đang nói về vấn đề bảo mật AI tại các cơ sở thiết yếu. Họ cũng đề cập đến ý nghĩa nhân quyền của việc triển khai AI trong các nhiệm vụ của DHS, trong đó một số nhấn mạnh tiềm năng của nó có thể được sử dụng như một phần mở rộng của thành kiến ​​ngầm hiện có.

Các hệ thống AI hoạt động trong chủ nghĩa phân biệt màu da và phân biệt giới tính là một số vấn đề tồn tại lâu dài mà các chuyên gia và chính phủ liên bang tiếp tục giải quyết vì các nhà lãnh đạo tư tưởng và chính phủ là những nhóm thiểu số không buồn thử nghiệm các sản phẩm để xem liệu hệ thống này có hoạt động với phụ nữ và người dân hay không. màu sắc. Ngoài ra, Nhà Trắng và Bộ Tư pháp cũng bắt đầu các dự án nhằm loại bỏ những thành kiến ​​​​do hệ thống AI mang lại.

Hội đồng DHS sẽ họp hàng quý đã được tiết lộ. Nó bao gồm những người như Giám đốc điều hành OpenAI Sam Altman, các quan chức chính phủ hoạt động trong lĩnh vực AI và chủ sở hữu các nhà sản xuất công nghệ và cơ sở hạ tầng quan trọng. Mayorkas tuyên bố rằng có hơn 20 ứng dụng AI, từ tập trung vào các yêu cầu bảo hiểm thiệt hại do bão cho đến gần đây là giúp Cơ quan Quản lý Khẩn cấp Liên bang (FEMA) đào tạo các đại lý phụ trách trường hợp người tị nạn.

Hợp tác toàn cầu chống lại các mối đe dọa AI

Các quan chức của DHS đã nhấn mạnh trong báo cáo của họ rằng họ đã tạo một danh sách cổng thông tin nơi công nghệ AI đã được triển khai hoặc bị hủy bỏ do những lo ngại khác nhau giữa các bên liên quan khác nhau. Các quan chức của DHS nhấn mạnh rằng bộ đang tìm cách mở rộng lực lượng lao động của mình trong các lĩnh vực liên quan đến AI và 3000 đơn đăng ký đã được nhận cho các vị trí công việc trong lĩnh vực này.

Mayorkas chia sẻ rằng hội đồng quản trị đã khởi xướng quá trình xây dựng phác thảo chiến lược và kế hoạch nhằm ngăn chặn các mối đe dọa có thể xảy ra đối với AI và giảm thiểu rủi ro về những hậu quả không mong muốn trong quá trình ứng dụng AI. Công việc bổ sung trên tàu đã đạt yêu cầu. Thực tế rằng đây là sự thành lập của các nhà lãnh đạo AI quốc tế cũng rất quan trọng vì nó sẽ có tác dụng gây tổn hại về mặt lập pháp với các quốc gia khác.

Tuy nhiên, việc bảo vệ các hệ thống AI sẽ không thể đạt được chỉ bằng cách có sự tham gia của những người chơi toàn cầu. Một kịch bản như vậy đòi hỏi sự hợp tác để xây dựng một cơ chế phòng thủ vững chắc.