En todo el mundo, los deepfakes han recibido mucha atención. Dado que han surgido muchas empresas internacionales que utilizan deepfakes generados por IA, existe un acuerdo general sobre el enfoque general de este problema. A principios de este año, Google en C2PA se convirtió en un comité directivo con otros miembros como OpenAI, Adobe, Microsoft, AWS y la RIAA. Debido a las preocupaciones sobre los deepfakes y la desinformación de la IA convencional, el personal de TI querrá acoger el trabajo de esta agencia, haciendo referencias específicas a las credenciales del contenido.

Credenciales de contenido: el nuevo estándar

La industria está a punto de regular un área específica de gestión de datos visuales y de video en todos los ámbitos, por lo que el equipo de TI será específico al respecto. Las credenciales de contenido son una forma de metadatos digitales que los creadores o titulares de contenido pueden utilizar para obtener los créditos adecuados e introducir la honestidad en un ecosistema. Estos metadatos irrecuperables consisten en el nombre y los detalles del artista y se inscriben directamente en el contenido cuando se exporta o descarga.

Las etiquetas de contenido creadas bajo las mismas reglas y permisos tienen grandes posibilidades de implementar un etiquetado estandarizado en un mundo completo y tolerante debido al peso de las empresas detrás de la idea. Las credenciales de contenido representan una oportunidad única por diversas razones. Ayudará a fortalecer la credibilidad y la confiabilidad entre el público, ya que proporciona información muy necesaria sobre el autor o el proceso creativo. Esto desarrolla la atmósfera de la sala que ayuda a combatir la desinformación y la desinformación.

Adjunte cualquier información de contacto con su trabajo para fortalecer la identidad de los artistas para que los usuarios puedan rastrearlos y conectarlos para lograr reconocimiento y visibilidad. Además, habrá algunas medidas dirigidas al contenido de Internet que no es real, como el contenido falso y creado para engañar a la gente. La historia de Australia refleja el mayor aumento de fraudes deepfake, similar al del otro mundo. Sumsub, en su tercer Informe sobre fraude de identidad, dijo que el número de deepfakes en Australia aumentó 15 veces en comparación con el año anterior y que la sofisticación de los medios falsificados hacia formas realistas avanza aún más.

Dado que el ojo humano baja la guardia casi instantáneamente, los deepfakes se vuelven muy persuasivos. Las investigaciones indican que categorizar imágenes podría tomar tan solo 13 milisegundos, mucho menos que el tiempo que permite a un humano procesar la información y autentificarla o rechazarla. El Comisionado australiano de eSafety señala que “el desarrollo de innovaciones para ayudar a identificar deepfakes aún no va a la par de la tecnología”. Por su parte, el gobierno australiano se ha comprometido a combatir los deepfakes.

Luchando contra los deepfakes en Australia

Los deepfakes presentan una amenaza muy real a la estabilidad y seguridad de todos los australianos. Cualquier campaña de prevención de deepfakes a largo plazo debe centrarse en campañas de concientización que ayuden a las personas a comprender cómo funcionan los deepfakes y las opciones disponibles para evitar ser víctimas de estos trucos.

Para que esta visión se haga realidad, tendrá que haber un consenso en toda la industria, en el que las principales partes interesadas del lado de la oferta proporcionen la tecnología y tengan el mayor impacto en la IA. Pero ahí es donde tienen lugar las Credenciales de Contenido. Si bien las credenciales de contenido son la mejor oportunidad para crear estándares que acaben con el problema de los deepfakes, los problemas de detectar, regular y castigar el uso indebido permanecerán. Esto significa que la prevención no está basada fuera de la industria ni está respaldada por masas de líderes de campo en las industrias de los medios. Estas implementaciones pueden llegar a una gran parte de Internet y, en esos momentos, la mayoría de los sitios web adquieren instantáneamente tanto conocimiento como los sitios virales en el motor de búsqueda.

Las personas involucradas en TI e IA que operan para la creación de contenido lo desearán. Deben comprender las Credenciales de contenido de la misma manera que los desarrolladores web han llegado al nivel de enredo con la seguridad, el SEO y todos los estándares que existen para proteger el contenido para que no sea prohibido. Los pasos que deberían tomar incluyen:

Implementación de credenciales de contenido: en primer lugar, los expertos en TI deben asegurarse de que su empresa implemente e integre completamente las credenciales de contenido en los flujos de trabajo para mantener la autenticidad y la trazabilidad del contenido.

Abogar por la transparencia: la sugerencia interna y externa con socios y clientes conduce a una promoción organizada para que las organizaciones sean transparentes sobre el uso de la IA y acepten prácticas éticas en la creación y distribución de contenidos.

Regulación de apoyo: Considere la posibilidad de que los organismos de la industria y el gobierno guíen la configuración de políticas y regulaciones para contrarrestar los desafíos inducidos por los deepfakes. Esto no sólo implicará participar en las numerosas consultas públicas que el gobierno realizará sobre la IA, sino que también ayudará a dar forma al trabajo político.

Colaboración: combine una mayor experiencia con otros profesionales y organizaciones mediante la creación de enfoques y herramientas compartidos y consistentes para identificar riesgos de deepfake.

Preparar estrategias de respuesta: Afronte los desafíos que plantean los deepfakes y prepare sus planes cuando se detecte esta tecnología, como el manejo de daños y las comunicaciones.

Aprovechar los recursos de la comunidad: la plataforma también debería utilizar recursos de las comunidades de ciberseguridad, como el Comisionado de eSafety, para tener noticias recientes y oportunas.

La creación de deepfakes es la tarea más desafiante para los expertos en tecnología de la información, quienes deben encontrar una solución aplicable. Las credenciales de contenido brindan una excelente organización inicial para el mundo sobre la cual se puede construir el resto de la industria.