Partout dans le monde, les deepfakes ont reçu beaucoup d’attention. À mesure que de nombreuses entreprises internationales utilisant des deepfakes générés par l’IA ont vu le jour, il existe un consensus général sur l’approche générale de ce problème. Au début de cette année, Google au C2PA est devenu un comité directeur avec d'autres membres comme OpenAI, Adobe, Microsoft, AWS et les membres de la RIAA. En raison des préoccupations liées aux fausses informations et à la désinformation sur l’IA, le personnel informatique voudra adopter les travaux de cette agence, en faisant des références spécifiques aux informations d’identification du contenu.
Identifiants de contenu : la nouvelle norme
L'industrie est sur le point de réglementer un domaine spécifique de gestion des données visuelles et vidéo à tous les niveaux, l'équipe informatique y sera donc particulièrement attentive. Les informations d'identification de contenu sont un moyen de métadonnées numériques que les créateurs ou les détenteurs de contenu peuvent utiliser pour obtenir les crédits appropriés et introduire l'honnêteté dans un écosystème. Ces métadonnées irrécupérables sont constituées du nom et des coordonnées de l’artiste et sont inscrites directement dans le contenu lors de l’exportation ou du téléchargement.
Les étiquettes de contenu créées selon les mêmes règles et autorisations ont de grandes chances de mettre en œuvre un étiquetage standardisé dans un monde complet et acceptant en raison du poids des entreprises derrière l'idée. Les informations d'identification de contenu constituent une opportunité unique pour diverses raisons. Il contribuera à renforcer la crédibilité et la fiabilité auprès du public, car il fournit des informations indispensables sur l'auteur ou le processus de création. Cela crée une atmosphère ambiante qui aide à lutter contre la désinformation et la désinformation.
Joignez toutes les coordonnées à leur travail pour renforcer l'identité des artistes afin que les utilisateurs puissent les retrouver et les connecter pour plus de reconnaissance et de visibilité. En outre, certaines mesures seront prises contre les contenus Internet qui ne sont pas réels, comme les contenus faux et conçus pour tromper les gens. L’histoire de l’Australie reflète le plus grand pic de fraude deepfake, semblable à celui du reste du monde. Sumsub, dans son troisième rapport sur la fraude à l'identité, a déclaré que le nombre de deepfakes en Australie a augmenté de 15 fois par rapport à l'année précédente et que la sophistication des faux médias vers une forme réaliste progresse encore.
Étant donné que l’œil humain désactive sa garde presque instantanément, les deepfakes deviennent très convaincants. Les recherches indiquent que la catégorisation des images peut prendre jusqu'à 13 millisecondes, ce qui est bien plus court que la durée permettant à un humain de traiter l'information et de l'authentifier ou de la rejeter. Le commissaire australien à la sécurité électronique note que « le développement d’innovations pour aider à identifier les deepfakes ne suit pas encore le rythme de la technologie ». De son côté, le gouvernement australien s’est engagé à lutter contre les deepfakes.
Lutte contre les deepfakes en Australie
Les deepfakes représentent une menace très réelle pour la stabilité et la sécurité de tous les Australiens. Toute campagne de prévention à long terme contre les deepfakes devrait se concentrer sur des campagnes de sensibilisation qui aident les gens à comprendre comment fonctionnent les deepfakes et les options disponibles pour éviter de devenir la proie de ces astuces.
Pour que cette vision prenne vie, il faudra qu’il y ait un consensus à l’échelle de l’industrie, les principaux acteurs du côté de l’offre fournissant la technologie et ayant le plus grand impact en matière d’IA. Mais c’est là que les informations d’identification de contenu ont lieu. Même si les informations d’identification du contenu constituent la meilleure chance de créer des normes qui mettront fin au problème des deepfakes, les problèmes de détection, de réglementation et de sanction des utilisations abusives resteront. Cela signifie que la prévention n’est pas basée sur l’industrie ni soutenue par des masses de leaders de terrain dans les industries des médias. De telles implémentations peuvent s’étendre à une grande partie d’Internet et, dans de telles situations, la plupart des sites Web sont instantanément aussi compétents que les sites viraux du moteur de recherche.
Les personnes impliquées dans l’informatique et l’IA opérant pour la création de contenus vont avoir du désir. Ils doivent comprendre les informations d'identification du contenu de la même manière que les développeurs Web en sont arrivés au niveau d'implication dans la sécurité, le référencement et toutes les normes existantes pour protéger le contenu contre l'interdiction. Les mesures qu’ils devraient prendre comprennent :
Implémentation des informations d'identification du contenu : tout d'abord, les experts informatiques doivent s'assurer que leur entreprise met pleinement en œuvre et intègre les informations d'identification du contenu dans les flux de travail afin de maintenir l'authenticité et la traçabilité du contenu.
Plaidoyer pour la transparence : la suggestion en interne et en externe auprès des partenaires et des clients conduit à un plaidoyer organisé pour que les organisations soient transparentes sur l'utilisation de l'IA et acceptent des pratiques éthiques dans la création et la distribution de contenu.
Soutenir la réglementation : envisager les organismes industriels et le gouvernement pour guider l'élaboration de la politique et des réglementations visant à contrer les défis induits par les deepfakes. Cela impliquera non seulement de participer aux nombreuses consultations publiques que le gouvernement organisera sur l’IA, mais également de contribuer à façonner le travail politique.
Collaborer : combinez une plus grande expertise avec d’autres professionnels et organisations en créant des approches et des outils partagés et cohérents pour identifier les risques de deepfake.
Préparer des stratégies de réponse : Relevez les défis posés par les deepfakes et préparez vos plans lorsque cette technologie est détectée, comme la gestion des dommages et les communications.
Tirer parti des ressources communautaires : la plate-forme devrait également utiliser les ressources des communautés de cybersécurité telles que le commissaire à la sécurité électronique pour connaître les développements récents en temps opportun.
La formation de deepfakes est la tâche la plus difficile pour les experts en technologies de l’information, qui doivent trouver une solution applicable. Les informations d'identification de contenu constituent une excellente organisation de départ pour le monde sur laquelle le reste de l'industrie peut s'appuyer.