Die Europäische Union (EU) hat am Mittwoch einen wichtigen Schritt unternommen, um der Welt ihre ersten Governance-Regeln für künstliche Intelligenz (KI) zu geben, als das Europäische Parlament einen Gesetzesentwurf mit dem Titel „A.I. Act“ verabschiedete.
Der KI-Act, der erstmals am 21. April 2021 von der EU vorgeschlagen wurde, wird als der weltweit erste und umfassendste Regulierungsrahmen angepriesen. Seit seinem Vorschlag arbeiten die Europäische Kommission, der Rat der Europäischen Union und das Europäische Parlament an der Änderung und Verfeinerung des ursprünglichen Entwurfs. Eine endgültige Fassung wird erst im Laufe dieses Jahres erwartet.
Während der ursprüngliche Entwurf vor dem Aufkommen generativer KI, einschließlich Chatbots, kam, berücksichtigt dieser neue Gesetzesentwurf sicherlich generative KI-Systeme wie ChatGPT von OpenAI und die damit verbundenen Auswirkungen.
Testen vor der Bereitstellung
Das Gesetz, das für alle EU-Mitgliedsstaaten gilt, verpflichtet die EU-Mitgliedsstaaten, mindestens eine regulatorische „Sandbox“ zum Testen von KI-Systemen einzurichten, bevor diese eingesetzt werden.
„Das Einzige, was wir mit diesem Text erreichen wollten, ist Ausgewogenheit“, sagte Dragoș Tudorache, Mitglied des Europäischen Parlaments, gegenüber Journalisten. Das Gesetz schütze die Bürger und fördere gleichzeitig „Innovation, ohne Kreativität zu behindern, sowie den Einsatz und die Entwicklung von KI in Europa“, fügte er hinzu.
Größtes Potenzial für menschlichen Schaden
Im Mittelpunkt des am Mittwoch verabschiedeten Gesetzentwurfs steht die Aufgabe generativer KI, neuen Transparenzpflichten zu unterliegen. Dazu gehören die Veröffentlichung von Zusammenfassungen urheberrechtlich geschützten Materials, das zum Trainieren des Systems verwendet wurde, sowie die Umsetzung von Schutzmaßnahmen, um die KI an der Generierung illegaler Inhalte zu hindern.
Der „risikobasierte“ Ansatz des Gesetzes zur Regulierung von KI konzentriert sich auf Anwendungsfälle mit dem größten Potenzial für menschlichen Schaden, darunter die Nutzung von KI-Systemen zum Betrieb kritischer Infrastrukturen wie Wasser oder Energie, unseres Rechtssystems und die Bestimmung des Zugangs zu öffentlichen Diensten und staatlichen Leistungen.
Die Entwickler dieser Technologie müssten vor der allgemeinen Einführung eine Risikobewertung durchführen, ähnlich wie es derzeit im Arzneimittelzulassungsverfahren geschieht.
Verbot der Gesichtserkennung
Ein weiterer heiß diskutierter Bereich ist der Einsatz von Gesichtserkennungstechnologie. Das Europäische Parlament hat für ein Verbot der Live-Gesichtserkennung gestimmt, ist aber noch offen, ob es eine Ausnahme für deren Einsatz in Fällen der nationalen Sicherheit und anderer Strafverfolgungszwecke geben sollte.
Darüber hinaus würde eine weitere Bestimmung des A.I. Act Unternehmen das Scraping biometrischer Daten aus sozialen Medien zum Aufbau von Datenbanken verbieten – ein großes Problem, nachdem das Gesichtserkennungsunternehmen Clearview AI von der französischen Datenschutzbehörde CNIL wegen der illegalen Erfassung und Verarbeitung biometrischer Daten französischer Bürger mit einer Geldstrafe von 20 Millionen US-Dollar belegt wurde, zusätzlich zu einer überfälligen Geldstrafe von 5,2 Millionen US-Dollar.
Wird generative KI der Weltwirtschaft einen Beitrag von 4,4 Billionen US-Dollar bescheren?
Laut einem am Mittwoch veröffentlichten Bericht von McKinsey & Company wird generative KI der Weltwirtschaft voraussichtlich einen Beitrag von 4,4 Billionen US-Dollar leisten.
Während diese Zahl am oberen Ende der von McKinsey prognostizierten Spanne für den Wert generativer KI liegt, gibt der Bericht mit dem Titel „Das wirtschaftliche Potenzial generativer KI“ auch das untere Ende der Spanne an, das bei 2,6 Billionen US-Dollar liegt.
Während der Viva-Konferenz am Mittwoch in Paris sprach Metas leitender KI-Wissenschaftler Yann LeCun über die aktuellen Grenzen der generativen KI, insbesondere jener, die anhand großer Sprachmodelle trainiert werden.
Laut LeCun ist generative KI, die ausschließlich auf Sprache trainiert ist, nicht sehr intelligent.
„Diese Systeme sind sehr begrenzt, sie haben kein Verständnis für die zugrunde liegende Realität der echten Welt, weil sie ausschließlich mit Texten, riesigen Textmengen, trainiert sind“, sagte LeCun. „Der Großteil des menschlichen Wissens hat nichts mit Sprache zu tun … dieser Teil der menschlichen Erfahrung wird also von der KI nicht erfasst.“
„Wir haben heute Geschichte geschrieben“, sagte Brando Benifei, ein Mitglied des Europäischen Parlaments, das am EU-KI-Gesetz arbeitet, gegenüber Journalisten.
„Während die großen Technologieunternehmen wegen ihrer eigenen Kreationen Alarm schlagen, ist Europa einen Schritt weiter gegangen und hat eine konkrete Antwort auf die Risiken vorgeschlagen, die die KI zunehmend mit sich bringt“, fügte Benifei hinzu.
Diese Woche teilten beim Yale CEO Summit mehr als 40 % der Unternehmensführer, darunter Walmart-Chef Doug McMillion und Coca-Cola-CEO James Quincy, ihre Überzeugung, dass KI das Potenzial hat, die Menschheit in fünf bis zehn Jahren zu vernichten.
Das KI-Gesetz geht im Vergleich zu den Strafen, die wir im Rahmen der europäischen Datenschutz-Grundverordnung (DSGVO) kennen, noch einen Schritt weiter. Unternehmen, die verbotene KI-Praktiken anwenden, können mit einer Geldstrafe von bis zu 43 Millionen US-Dollar oder einem Betrag in Höhe von 7 % des weltweiten Jahresumsatzes des Unternehmens belegt werden (je nachdem, welcher Betrag höher ist).
Die DSGVO sieht derzeit Geldbußen von bis zu 10,8 Millionen US-Dollar oder bis zu 2 % des weltweiten Umsatzes eines Unternehmens vor (je nachdem, welcher Betrag höher ist).
Lesen Sie in anderen Nachrichten über hyperdimensionales Computing und warum wir KI möglicherweise völlig falsch betrachten.
Klicken Sie hier, um die vollständige Galerie bei Hypemoon anzuzeigen.
