Letzten Monat hat der Technologieriese Apple Inc. einen mutigen Schritt unternommen und drei Apps aus seinem App Store entfernt. Diese Apps nutzten sogar in der KI verfügbare maschinelle Lerntools und versuchten, ohne Zustimmung einer Person nicht einvernehmliche Bilder zu erstellen. Die Entscheidung folgt auf Bedenken, dass Apps auf Plattformen wie Instagram und Porno-Websites falsche Werbung machten!

Irreführende Fälle in der Werbung 

Wer auf diese Anzeige klickt, wird zum Apple App Store weitergeleitet, und die gleiche App wird dort als „Kunstgenerator“ beschrieben, allerdings ohne Hinweis darauf, dass sie Aktbilder generieren kann. Dies ist eine seit langem bestehende Lücke in mobilen App Stores, die erstmals 2022 entdeckt wurde.

Die für diese Tat verantwortlichen Apps verwendeten KI-basierte Algorithmen und behaupteten, Personen auf Fotos auszuziehen. Dies führte zu der falschen Annahme von Nacktheit, obwohl die Apps weder die Erlaubnis noch das Wissen der Personen hatten. Derartige Handlungen verletzen nicht nur die Privatsphäre, sondern sind auch eine potenzielle Quelle von Ausbeutung, Belästigung und Erpressung.

Eine Reihe ähnlicher Versionen dieser Anzeige mit verschiedenen anderen KI-generierten Frauen wurden zwischen dem 10. und 20. April auf Facebook, Instagram, Facebook Messenger und dem In-App-Werbenetzwerk von Meta angezeigt.

Nachdem Apple auf diese betrügerischen Apps aufmerksam geworden war, war das Unternehmen tatsächlich der erste Anbieter, der sie aus dem App Store entfernte. Obwohl sie ihre Unschuld beteuerten, wurden ihre wahren Motive durch die Apps offengelegt, was Apple dazu zwang, die Apps zu entfernen und seine Gemeinschaftsstandards einzuhalten. Dies zeigt deutlich Apples unerschütterliche Hingabe, einen sicheren und geschlechtsneutralen digitalen Raum für alle zu schaffen.

Laufende Herausforderungen und Rechenschaftspflicht

Auch wenn die Gegenmaßnahmen von Apple Respekt verdienen, wirft dieser Vorfall letztlich doch Zweifel an der App-Prüfung und Überwachung von Werbemethoden auf. Die Tatsache, dass diese Apps lange Zeit unbemerkt im App Store blieben, unterstreicht nur die Notwendigkeit größerer Sorgfalt und aktiver Maßnahmen zur Erkennung und Beseitigung betrügerischer Apps.

Darüber hinaus haben Entwickler raffinierte Methoden eingesetzt, um ihre illegalen Funktionen auf Websites für Erwachsene zu bewerben, die dafür sorgten, dass sie von Apple und Google nicht entdeckt wurden. Diese Fälle veranschaulichen die Probleme, mit denen die Technologieunternehmen konfrontiert sind, wenn es darum geht, ihre Plattformen zu überwachen und die Community-Richtlinien durchzusetzen.

Angesichts der bevorstehenden Bekanntgabe einiger KI-bezogener Projekte durch Apple auf der Worldwide Developers Conference (WWDC) 2023 wird es ziemlich spannend sein, die Schritte des Unternehmens in Bezug auf diese Apps zu verfolgen. Ein wichtiger Teil der verantwortungsvollen Technologieimplementierung von Apple besteht darin, ein gutes Image für ethisches Verhalten und solide Technologieführung aufrechtzuerhalten, was angesichts der zunehmenden Verwendung von KI in Apples Produkten von entscheidender Bedeutung ist.

Das Entfernen dieser Apps wäre ein Beispiel für ein ethisches Problem bei der Entwicklung und Nutzung von KI. Das zweite Problem im Zusammenhang mit der Entwicklung von KI-Fähigkeiten ist die Privatsphäre der Benutzer. Darüber hinaus müssen die Benutzer um ihre Erlaubnis gebeten und ihre Sicherheit gewährleistet werden. Durch das Blockieren solcher Anwendungen unterstreicht Apple das ethische Verhalten seiner Community.

Quelle: 404