No mês passado, a gigante da tecnologia Apple Inc. tomou uma atitude ousada e removeu três aplicativos de sua App Store. Esses aplicativos exploraram até mesmo ferramentas de aprendizado de máquina disponíveis em IA e tentaram construir imagens não consensuais sem o consentimento de uma pessoa. A decisão segue preocupações de que os aplicativos estivessem usando publicidade falsa em lugares como Instagram e pornografia! Sites.

Casos enganosos em publicidade

Quem clica neste anúncio é encaminhado para a App Store da Apple, e o mesmo aplicativo é descrito como um “gerador de arte” mas sem qualquer referência ao fato de poder gerar nus. Esta é uma lacuna de longa data nas lojas de aplicativos móveis, identificada pela primeira vez em 2022.

Através de algoritmos baseados em IA, os aplicativos acusados ​​de praticar esse ato alegavam despir indivíduos em fotos, levando a uma suposição incorreta de nudez, mesmo que não tivessem a permissão ou o conhecimento dos sujeitos. Atos como estes não só violam a privacidade, mas também são fontes potenciais de exploração, assédio e chantagem.

Uma série de versões semelhantes deste anúncio com várias outras mulheres geradas por IA foram exibidas no Facebook, Instagram, Facebook Messenger e na rede de anúncios no aplicativo Meta entre 10 e 20 de abril.

Depois de ser avisada sobre esses aplicativos fraudulentos, a Apple foi a primeira a removê-los da App Store. Embora alegassem ser inocentes, seus verdadeiros motivos foram divulgados pelos aplicativos, forçando a Apple a removê-los e a observar os padrões da comunidade. Isto demonstra claramente a devoção inabalável da Apple em criar um espaço digital seguro e neutro em termos de género para todos.

Desafios contínuos e responsabilidade

Embora as contra-medidas tomadas pela Apple mereçam respeito, este incidente, no final das contas, traz algumas dúvidas sobre a revisão do app e o monitoramento dos métodos de publicidade. O facto de estas aplicações terem passado despercebidas na App Store durante muito tempo apenas sublinha a necessidade de mais cuidado e medidas activas para detectar e eliminar aplicações fraudulentas.

Além disso, os desenvolvedores aplicaram métodos astutos de promoção de seus recursos ilegais em sites adultos que garantiram a ausência de sua detecção pela Apple e pelo Google. Estes casos ilustram os problemas que as empresas de tecnologia enfrentam para policiar as suas plataformas e fazer cumprir as diretrizes da comunidade.

Com a próxima divulgação pela Apple de alguns projetos relacionados à IA na Worldwide Developers Conference (WWDC) 2023, será bastante intrigante ver o movimento iniciado pela empresa em relação a esses aplicativos. Uma parte importante da implementação tecnológica responsável da Apple é manter uma boa imagem de comportamento ético e governança tecnológica sólida, o que é fundamental à luz do uso crescente de IA pela Apple em seus produtos.

A remoção destas aplicações seria um exemplo de uma questão ética por parte do desenvolvimento e utilização da IA. A segunda preocupação relacionada com o desenvolvimento de capacidades de IA é a privacidade dos utilizadores. Além disso, a permissão dos usuários deve ser solicitada e a garantia de sua segurança deve ser dada. Ao bloquear tais aplicações, a Apple enfatiza o comportamento ético em sua comunidade.

Fonte: 404