No mês passado, a gigante da tecnologia Apple Inc. tomou uma atitude ousada e removeu três aplicativos de sua App Store. Esses aplicativos exploraram até mesmo ferramentas de aprendizado de máquina disponíveis em IA e tentaram construir imagens não consensuais sem o consentimento de uma pessoa. A decisão segue preocupações de que os aplicativos estivessem usando publicidade falsa em lugares como Instagram e pornografia! Sites.
Casos enganosos em publicidade
Quem clica neste anúncio é encaminhado para a App Store da Apple, e o mesmo aplicativo é descrito como um “gerador de arte” mas sem qualquer referência ao fato de poder gerar nus. Esta é uma lacuna de longa data nas lojas de aplicativos móveis, identificada pela primeira vez em 2022.
Através de algoritmos baseados em IA, os aplicativos acusados de praticar esse ato alegavam despir indivíduos em fotos, levando a uma suposição incorreta de nudez, mesmo que não tivessem a permissão ou o conhecimento dos sujeitos. Atos como estes não só violam a privacidade, mas também são fontes potenciais de exploração, assédio e chantagem.
Uma série de versões semelhantes deste anúncio com várias outras mulheres geradas por IA foram exibidas no Facebook, Instagram, Facebook Messenger e na rede de anúncios no aplicativo Meta entre 10 e 20 de abril.
Depois de ser avisada sobre esses aplicativos fraudulentos, a Apple foi a primeira a removê-los da App Store. Embora alegassem ser inocentes, seus verdadeiros motivos foram divulgados pelos aplicativos, forçando a Apple a removê-los e a observar os padrões da comunidade. Isto demonstra claramente a devoção inabalável da Apple em criar um espaço digital seguro e neutro em termos de género para todos.
Desafios contínuos e responsabilidade
Embora as contra-medidas tomadas pela Apple mereçam respeito, este incidente, no final das contas, traz algumas dúvidas sobre a revisão do app e o monitoramento dos métodos de publicidade. O facto de estas aplicações terem passado despercebidas na App Store durante muito tempo apenas sublinha a necessidade de mais cuidado e medidas activas para detectar e eliminar aplicações fraudulentas.
Além disso, os desenvolvedores aplicaram métodos astutos de promoção de seus recursos ilegais em sites adultos que garantiram a ausência de sua detecção pela Apple e pelo Google. Estes casos ilustram os problemas que as empresas de tecnologia enfrentam para policiar as suas plataformas e fazer cumprir as diretrizes da comunidade.
Com a próxima divulgação pela Apple de alguns projetos relacionados à IA na Worldwide Developers Conference (WWDC) 2023, será bastante intrigante ver o movimento iniciado pela empresa em relação a esses aplicativos. Uma parte importante da implementação tecnológica responsável da Apple é manter uma boa imagem de comportamento ético e governança tecnológica sólida, o que é fundamental à luz do uso crescente de IA pela Apple em seus produtos.
A remoção destas aplicações seria um exemplo de uma questão ética por parte do desenvolvimento e utilização da IA. A segunda preocupação relacionada com o desenvolvimento de capacidades de IA é a privacidade dos utilizadores. Além disso, a permissão dos usuários deve ser solicitada e a garantia de sua segurança deve ser dada. Ao bloquear tais aplicações, a Apple enfatiza o comportamento ético em sua comunidade.
Fonte: 404