Tech-Giganten schließen sich zusammen, um die Bedrohung durch Deepfakes mit Content Credentials zu bekämpfen

Deepfakes haben weltweit große Aufmerksamkeit erhalten. Da mittlerweile viele internationale Unternehmen aufgetaucht sind, die KI-generierte Deepfakes verwenden, besteht eine allgemeine Übereinstimmung über den allgemeinen Ansatz dieses Problems. Anfang dieses Jahres wurde Google bei C2PA zu einem Lenkungsausschuss mit anderen wie OpenAI, Adobe, Microsoft, AWS und den RIAA-Mitgliedern. Aufgrund der Bedenken hinsichtlich Deepfakes und allgemeiner KI-Desinformation werden IT-Mitarbeiter die Arbeit dieser Agentur begrüßen und dabei ausdrücklich auf Inhaltsnachweise verweisen wollen.

Inhaltsangabe: Der neue Standard

Die Branche ist dabei, einen bestimmten Bereich der Verwaltung von Bild- und Videodaten flächendeckend zu regulieren, daher wird das IT-Team hier besonders darauf achten. Content Credentials sind digitale Metadaten, die Urheber oder Inhaltsinhaber nutzen können, um angemessene Anerkennung zu erhalten und Ehrlichkeit in ein Ökosystem einzuführen. Diese unwiederbringlichen Metadaten bestehen aus dem Namen und den Details des Künstlers und werden beim Exportieren oder Herunterladen direkt in den Inhalt eingeschrieben.

Inhaltskennzeichnungen, die unter denselben Regeln und Genehmigungen erstellt werden, haben aufgrund des Gewichts der Unternehmen, die hinter der Idee stehen, große Chancen, eine standardisierte Kennzeichnung in einer vollständigen und toleranten Welt umzusetzen. Inhaltsangabenachweise stellen aus verschiedenen Gründen eine einzigartige Gelegenheit dar. Sie werden dazu beitragen, die Glaubwürdigkeit und Zuverlässigkeit beim Publikum zu stärken, da sie dringend benötigte Informationen über den Autor oder den kreativen Prozess liefern. Dadurch entsteht eine Raumatmosphäre, die dazu beiträgt, Fehlinformationen und Desinformationen zu bekämpfen.

Fügen Sie ihrer Arbeit Kontaktdaten bei, um die Identität der Künstler zu stärken, damit Benutzer sie verfolgen und verbinden können, um sie wiederzuerkennen und sichtbar zu machen. Darüber hinaus wird es einige Maßnahmen gegen Internetinhalte geben, die nicht echt sind, wie etwa gefälschte Inhalte, die darauf abzielen, Menschen zu täuschen. Die Geschichte Australiens spiegelt den größten Anstieg von Deepfake-Betrug wider, ähnlich wie in der anderen Welt. Sumsub gab in seinem dritten Bericht über Identitätsbetrug an, dass die Zahl der Deepfakes in Australien im Vergleich zum Vorjahr um das 15-fache gestiegen ist und die Raffinesse der gefälschten Medien in Richtung realistischer Form weiter fortschreitet.

Da das menschliche Auge seine Wachsamkeit fast augenblicklich abschaltet, wirken Deepfakes äußerst überzeugend. Untersuchungen zufolge kann es bis zu 13 Millisekunden dauern, Bilder zu kategorisieren. Das ist viel kürzer als die Zeit, die ein Mensch braucht, um die Informationen zu verarbeiten und sie zu authentifizieren oder abzulehnen. Der australische eSafety Commissioner stellt fest, dass die „Entwicklung von Innovationen zur Identifizierung von Deepfakes noch nicht mit der Technologie Schritt hält“. Die australische Regierung hat sich ihrerseits verpflichtet, Deepfakes zu bekämpfen.

Kampf gegen Deepfakes in Australien

Deepfakes stellen eine sehr reale Bedrohung für die Stabilität und Sicherheit aller Australier dar. Jede langfristige Deepfake-Präventionskampagne sollte sich auf Aufklärungskampagnen konzentrieren, die den Menschen helfen zu verstehen, wie Deepfakes funktionieren und welche Möglichkeiten es gibt, diesen Tricks nicht zum Opfer zu fallen.

Damit diese Vision Wirklichkeit werden kann, muss es einen branchenweiten Konsens geben, bei dem die wichtigsten Interessenvertreter der Angebotsseite die Technologie bereitstellen und den größten Einfluss auf die KI haben. Aber genau hier kommen Content Credentials ins Spiel. Content Credentials sind zwar die beste Möglichkeit, Standards zu schaffen, die das Deepfake-Problem aus der Welt schaffen, aber die Probleme der Erkennung, Regulierung und Bestrafung des Missbrauchs bleiben bestehen. Das bedeutet, dass die Prävention weder branchenunabhängig ist noch von einer Masse von Branchenführern in der Medienbranche unterstützt wird. Solche Implementierungen können einen großen Teil des Internets erreichen, und in solchen Zeiten sind die meisten Websites sofort so gut informiert wie die viralen Websites in der Suchmaschine.

Personen, die in der IT und KI tätig sind und Inhalte erstellen, werden es wünschen. Sie sollten die Inhaltsanmeldeinformationen verstehen, so wie Webentwickler inzwischen mit Sicherheit, SEO und allen Standards, die den Inhalt vor Sperrung schützen sollen, vertraut sind. Zu den Schritten, die sie unternehmen sollten, gehören:

Implementierung von Inhaltsanmeldeinformationen: Zunächst sollten IT-Experten sicherstellen, dass ihr Unternehmen Inhaltsanmeldeinformationen vollständig implementiert und in die Arbeitsabläufe integriert, um die Authentizität und Rückverfolgbarkeit der Inhalte zu gewährleisten.

Für Transparenz eintreten: Der Vorschlag intern und extern gegenüber Partnern und Kunden führt zu einem organisierten Eintreten dafür, dass Organisationen transparent mit der Nutzung von KI umgehen und ethische Praktiken bei der Erstellung und Verbreitung von Inhalten akzeptieren.

Unterstützende Regulierung: Ziehen Sie Branchenverbände und die Regierung in Betracht, die Gestaltung der Politik und der Regulierung zu leiten, um den durch Deepfakes verursachten Herausforderungen zu begegnen. Dazu gehört nicht nur die Teilnahme an den zahlreichen öffentlichen Konsultationen, die die Regierung zum Thema KI durchführen wird, sondern auch die Gestaltung der politischen Arbeit.

Zusammenarbeit: Kombinieren Sie das größere Fachwissen anderer Fachleute und Organisationen, indem Sie gemeinsame, konsistente Ansätze und Tools zum Erkennen von Deepfake-Risiken erstellen.

Vorbereitung von Reaktionsstrategien: Stellen Sie sich den Herausforderungen durch Deepfakes und bereiten Sie Ihre Pläne für den Fall vor, dass diese Technologie entdeckt wird, z. B. den Umgang mit Schäden und die Kommunikation.

Nutzung von Community-Ressourcen: Die Plattform sollte auch Ressourcen von Cybersicherheits-Communitys wie dem eSafety Commissioner nutzen, um zeitnah über aktuelle Entwicklungen informiert zu sein.

Die Entstehung von Deepfakes ist die größte Herausforderung für IT-Experten, die eine geeignete Lösung finden müssen. Content Credentials bieten der Welt eine großartige Ausgangsorganisation, auf der der Rest der Branche aufbauen kann.