El incidente del incendio de Los Ángeles ha generado un intenso debate, la comunidad propaga información falsa generada por IA.
Mientras los bomberos de Los Ángeles continúan luchando contra los incendios forestales, un torrente de contenido deepfake generado por IA se está propagando rápidamente en las redes sociales, generando otra preocupación en las labores de rescate.
Según informes de Decrypt, la plataforma de redes sociales X (anteriormente Twitter) comenzó a difundir fotos del letrero de Hollywood siendo consumido por un gran incendio, mostrando que las llamas se estaban extendiendo en Mount Lee.
Sin embargo, estas imágenes son fotos falsas producidas a través de herramientas de inteligencia artificial generativa, y luego más contenido visual falso comenzó a circular en la comunidad, incluyendo escenas de robos ficticias, lo que complicó aún más la situación.
Un portavoz de la Fundación de Confianza del Icono de Hollywood (Hollywood Sign Trust) confirmó a los medios que el letrero está intacto, y que Griffith Park fue cerrado solo por razones de precaución, el letrero está a salvo, y afirmó que los rumores en línea son completamente falsos.
Fuente de la imagen: NDTV En medio de los incendios de Los Ángeles, se difundió ampliamente la falsa noticia generada por IA de que 'el letrero de Hollywood está en llamas'
¿Los desastres se convierten en material de operaciones de bots? Un profesor revela el caos en la comunidad
Tim Weninger, profesor de Ciencias de la Computación e Ingeniería en la Universidad de Notre Dame, comentó que la propagación de estas noticias falsas puede deberse a diversas motivaciones, incluyendo bromas, objetivos sociales o políticos, como insinuar que California debería ser quemada, criticar al gobernador Newsom, o reaccionar a las políticas de diversidad e inclusión del departamento de bomberos (DEI).
El próximo presidente de Estados Unidos, Trump, también publicó en la plataforma Truth Social, criticando al gobernador de California, Newsom, y su manejo de los incendios forestales, llamándolo 'gobernador Newsom caca' (Governor Gavin Newscum), y pidiendo la renuncia del gobierno por su manejo inadecuado de los incendios en el sur de California.
El año pasado, cuando la costa este de Estados Unidos fue golpeada por los huracanes Milton y Helen, también surgieron contenidos deepfake similares generados por IA, incluyendo fotos de edificios dañados, así como rumores de que las áreas que apoyan a Trump no recibirían ayuda, lo que exacerbó aún más la tensa atmósfera política.
Fuente de la imagen: TED YouTube Un profesor estadounidense señala que las motivaciones detrás de la propagación de noticias falsas generadas por IA pueden estar relacionadas con la política, bromas, entre otros
Luchar contra las noticias falsas en la comunidad, las anotaciones comunitarias son cada vez más importantes
La empresa líder en redes sociales, Meta, ha anunciado recientemente reformas importantes, eliminando su anterior programa de verificación de hechos de terceros y adoptando un mecanismo de 'anotaciones comunitarias' (Community Notes), permitiendo que los usuarios de la comunidad participen en la verificación de la veracidad de las publicaciones.
Este cambio es similar a lo que hace la plataforma X, agregando aclaraciones a publicaciones controvertidas o engañosas a través de la colaboración comunitaria.
Lectura adicional:
¿Copiando a Musk? Meta lanza anotaciones comunitarias, Zuckerberg: devolviendo la libertad de expresión a la comunidad
De acuerdo con el nuevo mecanismo, si una publicación es marcada como 'sospechosa' o 'requiere más información', la plataforma convocará a un grupo de usuarios de todo el mundo con diversas posturas para decidir, mediante votación y aclaraciones, si se necesita una advertencia o proporcionar información adicional.
El CEO de Meta, Zuckerberg, afirmó que los mecanismos de revisión anteriores eran demasiado complejos y a menudo erróneos, y que quieren volver a un enfoque más simple y más cercano a la intención de la libertad de expresión. En el futuro, la plataforma se centrará en eliminar contenido violador significativo, como terrorismo, explotación infantil, drogas y fraudes, mientras que otros casos serán gestionados por quejas o anotaciones de la comunidad.
Fuente de la imagen: Usuarios de la plataforma XX (anteriormente Twitter) ya han verificado la falsa noticia de que el letrero de Hollywood está en llamas a través de anotaciones comunitarias.
En situaciones de crisis, es muy importante difundir información precisa. Plataformas como Meta están adoptando un modelo de anotaciones comunitarias, reflejando que la prevención de noticias falsas requiere la participación de toda la comunidad. Solo a través de la innovación tecnológica y un mayor sentido cívico se puede construir un entorno más saludable en las redes sociales.
El artículo 'Incendios en Los Ángeles: IA deepfake 'el letrero de Hollywood está en llamas', ¿cómo lidiar con la propagación de noticias falsas?' se publicó por primera vez en 'Ciudades Criptográficas'