上個月，科技巨頭蘋果公司做出了一個大膽的舉動，從其應用商店中下架了三款應用。這些應用甚至利用了人工智能的機器學習工具，試圖在未經用戶同意的情況下構建未經同意的圖像。這一決定是出於對應用在 Instagram 和 porn! 等網站上使用虛假廣告的擔憂。
廣告誤導案例
點擊此廣告的用戶會被引導至蘋果應用商店，該應用被描述爲“藝術生成器”，但並未提及它可以生成裸照。這是移動應用商店中一個長期存在的漏洞，於 2022 年首次被發現。
通過基於人工智能的算法，被指控犯下這一行爲的應用程序聲稱可以脫掉照片中人物的衣服，儘管它們沒有得到拍攝對象的許可或知情，但還是會錯誤地認爲照片中人物是裸體。此類行爲不僅侵犯隱私，也是剝削、騷擾和勒索的潛在來源。
4 月 10 日至 4 月 20 日期間，Facebook、Instagram、Facebook Messenger 和 Meta 的應用內廣告網絡上出現了多個類似版本的廣告，其中有多個由人工智能生成的女性形象。
在收到有關這些詐騙應用程序的舉報後，蘋果實際上是第一個將它們從應用商店中移除的公司。儘管他們聲稱自己是無辜的，但這些應用程序暴露了他們的真實動機，迫使蘋果移除這些應用程序並遵守其社區標準。這清楚地表明瞭蘋果堅定不移地致力於爲每個人創造一個安全、性別中立的數字空間。
持續的挑戰和責任
儘管蘋果採取的反制措施值得尊重，但這次事件最終還是引發了人們對應用審覈和廣告監控方式的質疑。這些應用在 App Store 中長期無人關注，這一事實凸顯了採取更加謹慎和積極措施來發現和消除欺詐性應用的必要性。
此外，開發人員還使用狡猾的手段在成人網站上宣傳其非法功能，以確保蘋果和谷歌無法發現這些功能。這些案例說明了科技公司在監管其平臺和執行社區準則方面面臨的問題。
隨着蘋果即將在 2023 年全球開發者大會 (WWDC) 上披露一些與人工智能相關的項目，該公司針對這些應用程序採取的舉措將相當有趣。蘋果負責任的技術實施的一個重要部分是維護道德行爲和健全技術治理的良好形象，鑑於蘋果在其產品中越來越多地使用人工智能，這一點至關重要。
刪除這些應用程序是人工智能開發和使用方面道德問題的一個例子。與人工智能能力開發相關的第二個問題是用戶的隱私。此外，需要徵求用戶的許可，並保證他們的安全。通過屏蔽此類應用程序，蘋果強調了其社區的道德行爲。
來源：404
