Die britische Regierung ist auf der Suche nach der Meinung der Bevölkerung zu einem brandneuen Satz freiwilliger Regeln für die KI-Cybersicherheit. Der „AI Cyber Security Code of Practice“ enthält Vorschläge, die Entwickler nutzen können, um ihre KI-Produkte und -Dienste vor Hackerangriffen, Sabotage oder Manipulation zu schützen. Auf der CYBERUK-Konferenz sagte Technologieminister Saqib Bhatti, die neuen Richtlinien würden die Grundlage für einen globalen Standard für die KI-Cybersicherheit bilden und britischen Unternehmen ermöglichen, sich vor Cyberangriffen zu schützen.
Absicherung von KI-Systemen
Bhatti sagte, um die digitale Wirtschaft zu einer starken Kraft für das Land zu machen, müssen wir ihr ein sicheres Umfeld für Wachstum und Entwicklung bieten. Genau das tun sie mit diesen neuen Maßnahmen, bei denen die KI-Modelle von der Entwurfsphase an widerstandsfähig gegen Gegner sein werden. Das DSIT und das NCSC haben einen Verhaltenskodex für die Entwicklung cybersicherer KI-Systeme erstellt, der auf den im letzten Jahr veröffentlichten NCSC-Richtlinien für sichere KI-Systeme basiert.
Die Veröffentlichung des Entwurfs des Verhaltenskodex für KI-Cybersicherheit erfolgt zu einem Zeitpunkt, an dem die britische Cybersicherheitsszene gemischte Nachrichten liefert. Laut Regierungszahlen wuchs der Sektor im vergangenen Jahr um 13 %, doch die Hälfte der Unternehmen und fast ein Drittel der Wohltätigkeitsorganisationen waren im selben Zeitraum Ziel von Sicherheitsverletzungen.
Die steigende Nachfrage nach generativer KI in Unternehmen wird Cyberkriminellen wahrscheinlich neue Angriffsmöglichkeiten eröffnen. Die GenAI-Systeme sind am stärksten von Datenvergiftung und Modelldiebstahl betroffen, sagt Kevin Curren, Professor für Cybersicherheit an der Ulster University und hochrangiges Mitglied des Institute of Electrical and Electronics Engineers. Wenn die Unternehmen nicht beweisen können, wie die GenAI-Systeme funktionieren und wie sie zu ihren Schlussfolgerungen gekommen sind, wird die Rechenschaftspflicht zum Problem, und andere potenzielle Risiken können nicht gefunden werden.
Abwehr neuer Cyberbedrohungen
Die neuen Richtlinien zur KI-Cybersicherheit werden Unternehmen eine Liste der besten Praktiken und Empfehlungen zum Umgang mit diesen Herausforderungen geben, sagte die Geschäftsführerin des NCSC, Felicity Oswald. Die neuen Verhaltenskodizes werden ihnen dabei helfen, die Cybersicherheitsbranche aufzubauen, um KI-Modelle und -Software so zu entwickeln, dass sie sicher und widerstandsfähig gegen Angriffe böswilliger Personen sind. Oswald sagte, dass die Festlegung von Standards für unsere Sicherheit die kollektive Widerstandsfähigkeit stärken wird, und er lobte die Organisationen dafür, dass sie diese Anforderungen erfüllen, um die Online-Sicherheit Großbritanniens zu gewährleisten. Die Aufforderung zur Stellungnahme wird so lange laufen, bis Unternehmen, die mit KI-Anwendungen arbeiten, damit beginnen können, Schritte zur Stärkung ihrer Sicherheit zu unternehmen, wie Curren erklärte.
Organisationen sollten mit Datenschutzexperten kommunizieren und die Änderungen der Regulierungspraxis überwachen, sagte er. Dies helfe nicht nur dabei, rechtliche Probleme zu vermeiden, sondern trage auch dazu bei, das Vertrauen der Verbraucher aufrechtzuerhalten, indem ethische KI-Praktiken und Datenintegrität gewährleistet würden. Weitere bewährte Praktiken betreffen die Datennutzung, die minimiert und anonymisiert werden sollte. Es sollten Richtlinien zur Datenverwaltung festgelegt, die Datenumgebungen gesichert, die Mitarbeiter über die aktuellen Sicherheitsprotokolle und die Auswirkungen informiert und regelmäßig Audits durchgeführt werden.
Der Aufruf zur Stellungnahme zu beiden Verhaltenskodizes sollte im Kontext der gesamten Arbeit der konservativen Regierung zur KI-Sicherheit gesehen werden, auf die der Minister für KI und geistiges Eigentum, Viscount Camrose, hingewiesen hat. Die Richtlinien für spezifische Pläne der oppositionellen Labour Party sind noch nicht festgelegt, obwohl das im letzten Jahr versprochene Grünbuch zur Technologiepolitik fehlt. Dennoch versprach der Schattensekretär des DSIT, Peter Kyle, heute, dass die Partei ihre Ansichten zur KI in den kommenden Wochen im Rahmen einer politischen Initiative vor den Parlamentswahlen darlegen werde.