El mes pasado, el gigante tecnológico Apple Inc. tomó una medida audaz y eliminó tres aplicaciones de su App Store. Estas aplicaciones incluso explotaron herramientas de aprendizaje automático disponibles en IA e intentaron construir imágenes no consensuadas sin el consentimiento de una persona. ¡La decisión surge tras la preocupación de que las aplicaciones estuvieran usando publicidad falsa en lugares como Instagram y pornografía! Sitios web.

Casos engañosos en publicidad

Quienes hacen clic en este anuncio son enviados a la App Store de Apple, y la misma aplicación se describe como un “generador de arte”, pero sin ninguna referencia al hecho de que puede generar desnudos. Se trata de una laguna jurídica de larga data en las tiendas de aplicaciones móviles que se identificó por primera vez en 2022.

A través de algoritmos basados ​​en inteligencia artificial, las aplicaciones acusadas de realizar este acto afirmaban desnudar a las personas en las fotografías, lo que llevó a una suposición incorrecta de desnudez a pesar de que no tenían el permiso o el conocimiento de los sujetos. Actos como estos no sólo violan la privacidad sino que también son fuentes potenciales de explotación, acoso y chantaje.

Varias versiones similares de este anuncio con otras mujeres generadas por IA se mostraron en Facebook, Instagram, Facebook Messenger y la red publicitaria dentro de la aplicación de Meta entre el 10 y el 20 de abril.

Después de recibir información sobre estas aplicaciones fraudulentas, Apple fue el primero en eliminarlas de la App Store. Aunque afirmaron ser inocentes, sus verdaderos motivos fueron revelados por las aplicaciones que obligaron a Apple a eliminarlas y observar los estándares de su comunidad. Esto demuestra claramente la inquebrantable devoción de Apple por crear un espacio digital seguro y neutral en cuanto al género para todos.

Desafíos actuales y responsabilidad

Aunque las contramedidas tomadas por Apple merecen respeto, este incidente finalmente genera algunas dudas sobre la revisión de la aplicación y el seguimiento de los métodos publicitarios. El hecho de que estas aplicaciones hayan pasado desapercibidas en la App Store durante mucho tiempo sólo subraya la necesidad de mayor cuidado y medidas activas para detectar y eliminar aplicaciones fraudulentas.

Además, los desarrolladores aplicaron métodos astutos para promocionar sus funciones ilegales en sitios para adultos que aseguraron que Apple y Google no los detectaran. Estos casos ilustran los problemas que enfrentan las empresas de tecnología para controlar sus plataformas y hacer cumplir las pautas de la comunidad.

Con la próxima divulgación por parte de Apple de algunos proyectos relacionados con la inteligencia artificial en la Conferencia Mundial de Desarrolladores (WWDC) 2023, será bastante intrigante ver el movimiento iniciado por la compañía con respecto a estas aplicaciones. Una parte importante de la implementación responsable de la tecnología por parte de Apple es mantener una buena imagen de comportamiento ético y una gobernanza tecnológica sólida, lo cual es fundamental a la luz del uso cada vez mayor de la IA en sus productos por parte de Apple.

Eliminar estas aplicaciones sería un ejemplo de una cuestión ética por parte del desarrollo y uso de la IA. La segunda preocupación relacionada con el desarrollo de las capacidades de la IA es la privacidad de los usuarios. Además, se debe solicitar permiso a los usuarios y garantizar su seguridad. Al bloquear este tipo de aplicaciones, Apple enfatiza el comportamiento ético en su comunidad.

Fuente: 404