Die britische Regierung hat Pläne angekündigt, diesen Sommer in den USA das erste Auslandsbüro ihres AI Safety Institute zu eröffnen.

Lesen Sie auch: Die Rolle des KI-Sicherheitsabkommens zwischen Großbritannien und den USA in der technischen Entwicklung

In einer am Montag veröffentlichten Erklärung sagte die britische Wissenschafts- und Technologieministerin Michelle Donelan, das neue US-Büro werde in San Francisco angesiedelt sein. In der Stadt sind einige der größten KI-Unternehmen ansässig, darunter OpenAI, Anthropic und Inflection AI.

Großbritannien möchte Partnerschaft mit den USA im Bereich KI-Sicherheit stärken

Das in den USA ansässige Büro wird versuchen, ein Team technischer Mitarbeiter unter der Leitung eines Forschungsdirektors zu rekrutieren, wenn es später in diesem Jahr seinen Betrieb aufnimmt. Der Hauptsitz des Instituts in London verfügt derzeit über ein Team von über 30 technischen Mitarbeitern.

Der Technologieminister sagte, die Erweiterung des Instituts zeige die Führungsrolle Großbritanniens im Bereich KI und würde eine enge Zusammenarbeit mit der US-Regierung etablieren.

Dies ist ein entscheidender Moment für Großbritanniens Fähigkeit, sowohl die Risiken als auch das Potenzial der KI aus einer globalen Perspektive zu untersuchen. Dadurch wird unsere Partnerschaft mit den USA gestärkt und der Weg für andere Länder geebnet, von unserem Fachwissen zu profitieren, während wir in Sachen KI-Sicherheit weiterhin weltweit führend bleiben.

Michelle Donelan, britische Ministerin für Wissenschaft und Technologie.

Donelan sagt, das Institut sei „immer stärker geworden“

Die britische Regierung hat im November 2023 das AI Safety Institute ins Leben gerufen. Ziel sei es, „Überraschungen durch schnelle und unerwartete Fortschritte im Bereich der KI für Großbritannien und die Menschheit zu minimieren“, hieß es.

Lesen Sie auch: Britische Regierung gibt Gründung des AI Safety Institute bekannt

Das Institut konzentriert sich in erster Linie auf die Bewertung von KI-Systemen „an der Grenze“ aus der Perspektive der nationalen Sicherheit. Mit dieser Maßnahme, so die britische Regierung, könne sie wirksame politische und regulatorische Antworten auf KI-Anwendungen entwickeln, die in ihrem Zuständigkeitsbereich eingesetzt werden.

Seitdem der Premierminister und ich das AI Safety Institute gegründet haben, ist es in nur etwas mehr als einem Jahr immer stärker geworden.

Michelle Donelan, britische Ministerin für Wissenschaft und Technologie.

Institut veröffentlicht Ergebnisse seiner Modelltests

Das britische AI ​​Safety Institute ist Berichten zufolge die erste staatlich geförderte Organisation, die Ergebnisse ihrer Sicherheitstests für KI-Modelle veröffentlicht. Das Institut testete fünf öffentlich verfügbare große Sprachmodelle, gab die Namen jedoch nicht bekannt.

Die Sicherheit von KI ist noch ein sehr junges und aufstrebendes Feld. […] Unser Ziel ist es, die Grenzen dieses Feldes durch die Entwicklung hochmoderner Bewertungen weiter zu erweitern, wobei der Schwerpunkt auf den Risiken für die nationale Sicherheit liegt.

Ian Hogarth, Vorsitzender des britischen AI Safety Institute.

Es hieß, mehrere Modelle hätten die Herausforderungen der Cybersicherheit bestanden. Allerdings erwiesen sie sich alle als sehr anfällig für einfache „Jailbreaks“. Einige Modelle führten zu schädlichen Ergebnissen, selbst wenn es keine absichtlichen Versuche gab, die Sicherheitsvorkehrungen zu umgehen.

Kryptopolitische Berichterstattung von Ibiam Wayas