英國政府正在就一套全新的人工智能網絡安全自願規則徵求民衆意見。《人工智能網絡安全行爲準則》將包括開發人員可以用來保護其人工智能產品和服務免受黑客攻擊、破壞或篡改的建議。在 CYBERUK 會議上，技術部長 Saqib Bhatti 表示，新準則將成爲人工智能網絡安全全球標準的基礎，並使英國企業免受網絡攻擊。
保護人工智能系統
巴蒂表示，要讓數位經濟成為國家的強大力量；我們必須為其成長和發展提供安全的環境。這正是他們正在採取的新措施，其中設計階段的人工智慧模型將對對手具有彈性。 DSIT 和 NCSC 根據去年發布的 NCSC 關於安全人工智慧系統的指南，制定了開發網路安全人工智慧系統的實踐準則。
《人工智慧網路安全實踐守則》草案發布之際，英國網路安全領域的消息好壞參半。根據政府數據，該行業去年增長了 13%，但同期有一半的企業和近三分之一的慈善機構成為違規目標。
企業對生成式人工智慧的需求不斷增長，可能為網路犯罪分子發動攻擊創造新的方式。阿爾斯特大學網路安全教授、電氣和電子工程師協會高級會員 Kevin Curren 表示，GenAI 系統是受資料中毒和模型竊盜影響最嚴重的系統。如果公司無法證明 GenAI 系統如何運作以及如何得出結論，責任就會成為問題，並且無法發現其他潛在風險。
應對新的網路威脅
NCSC 執行長 Felicity Oswald 表示，新的人工智慧網路安全指南將為企業提供應對這些挑戰的最佳實踐和建議清單。新的實踐守則將幫助他們創建網路安全產業來設計人工智慧模型和軟體，以便它們能夠安全且能夠抵禦惡意攻擊。奧斯瓦爾德表示，建立我們的安全標準將增強集體的彈性，他讚揚這些組織遵循這些要求以確保英國的網路安全。正如柯倫所說，徵集意見將持續到處理人工智慧應用程式的公司可以開始採取措施加強其安全性為止。
他表示，組織應與資料保護專家溝通並監控監管實踐的變化，這不僅有助於避免法律問題，還有助於透過提供道德的人工智慧實踐和資料完整性來維持消費者的信任。其他最佳實踐是關於資料使用的最佳實踐，應盡量減少資料使用並使其匿名，應建立資料治理策略，應保護資料環境，應向工作人員提供有關當前安全協議、影響和影響的建議。應始終進行審核。
人工智慧和智慧財產權部長卡姆羅斯子爵指出，今天就這兩項行為準則徵求意見的活動應該放在保守黨政府在人工智慧安全方面的整個工作的背景下來看。儘管去年承諾的技術政策綠皮書缺失，但反對黨工黨的具體計畫政策仍未明確。儘管如此，影子 DSIT 秘書 Peter Kyle 今天承諾，該黨將在未來幾週內宣布其對人工智慧的看法，以推動大選前的政策。
