上个月，科技巨头苹果公司做出了一个大胆的举动，从其应用商店中下架了三款应用。这些应用甚至利用了人工智能的机器学习工具，试图在未经用户同意的情况下构建未经同意的图像。这一决定是出于对应用在 Instagram 和 porn! 等网站上使用虚假广告的担忧。
广告误导案例
点击此广告的用户会被引导至苹果应用商店，该应用被描述为“艺术生成器”，但并未提及它可以生成裸照。这是移动应用商店中一个长期存在的漏洞，于 2022 年首次被发现。
通过基于人工智能的算法，被指控犯下这一行为的应用程序声称可以脱掉照片中人物的衣服，尽管它们没有得到拍摄对象的许可或知情，但还是会错误地认为照片中人物是裸体。此类行为不仅侵犯隐私，也是剥削、骚扰和勒索的潜在来源。
4 月 10 日至 4 月 20 日期间，Facebook、Instagram、Facebook Messenger 和 Meta 的应用内广告网络上出现了多个类似版本的广告，其中有多个由人工智能生成的女性形象。
在收到有关这些诈骗应用程序的举报后，苹果实际上是第一个将它们从应用商店中移除的公司。尽管他们声称自己是无辜的，但这些应用程序暴露了他们的真实动机，迫使苹果移除这些应用程序并遵守其社区标准。这清楚地表明了苹果坚定不移地致力于为每个人创造一个安全、性别中立的数字空间。
持续的挑战和责任
尽管苹果采取的反制措施值得尊重，但这次事件最终还是引发了人们对应用审核和广告监控方式的质疑。这些应用在 App Store 中长期无人关注，这一事实凸显了采取更加谨慎和积极措施来发现和消除欺诈性应用的必要性。
此外，开发人员还使用狡猾的手段在成人网站上宣传其非法功能，以确保苹果和谷歌无法发现这些功能。这些案例说明了科技公司在监管其平台和执行社区准则方面面临的问题。
随着苹果即将在 2023 年全球开发者大会 (WWDC) 上披露一些与人工智能相关的项目，该公司针对这些应用程序采取的举措将相当有趣。苹果负责任的技术实施的一个重要部分是维护道德行为和健全技术治理的良好形象，鉴于苹果在其产品中越来越多地使用人工智能，这一点至关重要。
删除这些应用程序是人工智能开发和使用方面道德问题的一个例子。与人工智能能力开发相关的第二个问题是用户的隐私。此外，需要征求用户的许可，并保证他们的安全。通过屏蔽此类应用程序，苹果强调了其社区的道德行为。
来源：404
