人工智能是否正在通过合成 NCII 制造社交媒体危机? 🧐
社交媒体分析公司#Graphika 观察到合成非自愿亲密图像(NCII)服务的使用急剧增加,尤其是在“AI脱衣”中。
这涉及 #AI tools 从用户提供的图像中删除衣服。 2023 年,提供此类服务的 34 个网站和 52 个 Telegram 频道的推荐链接增加了 2,408%。
这些服务未经同意生成露骨内容,带来骚扰和性勒索等风险。人工智能的作用扩展到了视频深度伪造,引发了人们对儿童性虐待材料(CSAM)的担忧。互联网监管机构警告称,人工智能生成的内容具有巨大的影响力,这使得区分真假变得具有挑战性。
这个问题引起了全球的关注,包括欧盟最近发布的关于人工智能使用的#regulations 。