一种新的与AI相关的诈骗行为出现，涉及数千个AI生成的影响者，他们使用窃取的真实人像在Instagram等社交网站上大量出现。
这一诈骗行为包括从真实模特和成人内容创作者那里窃取视频，给他们AI生成的面孔，并利用他们的身体来获利，附上诸如Patreon、OnlyFans竞争和各种AI应用的约会网站链接。
AI生成的影响者在Instagram上与人类竞争
在四月，404媒体首次报导了这一做法，当时它第一次出现。这一做法现在已经发展成为一种流行趋势，让许多人认为Meta运营的社交媒体要么无能为力，要么不愿意阻止其平台上看似的趋势。
随著Instagram上的人类内容创作者表示他们现在与AI内容竞争，这已经影响到他们的生存能力。
借助一些在苹果应用商店和Google Play商店上提供的现成AI工具和应用，AI影响者现在可以轻松创建和盈利他们的帐户。根据《连线》杂志，他们审查了超过1000个由AI生成的Instagram帐户和Discord频道，那里制作这些内容的人分享技巧并讨论策略，以及几个解释如何通过「AI皮条客」赚钱的指南。
《连线》发现，这个问题在Instagram上曾经是小问题，但已经成长为与多个对未来社交媒体格局的预测一致的巨大做法，在这里AI生成的内容超越了人类的内容。
在Instagram上推广他们作品的成人内容创作者现在担心与这些AI仿冒帐户直接竞争，这些帐户中许多使用从成人内容创作者和Instagram模特那里窃取的照片和视频。
成人内容创作者艾莲娜·圣詹姆斯表示，虽然Instagram的算法可能还有其他变化可能影响了这一点，但自从Instagram上AI生成的影响者帐户激增以来，她的「触及率下降了很多」，从通常的每月100万到500万次观看。她在过去10个月里没有突破过100万，并且有时低于50万次观看。
「这可能是我观看次数下降的原因之一。因为我正在与一些不自然的东西竞争。」圣詹姆斯。
亚历克西奥斯·曼札利斯是康奈尔科技安全、信任和安全倡议的主任，曾任谷歌信任和安全智能的主要负责人，他在404媒体研究中编制了一个约900个帐户的名单。
社交媒体不久将会是什么样子的标志
曼札利斯表示，这并不是全新的或令人惊讶的事情，因为这只是实现了早先对AI技术及其在社交媒体平台上采用的预测。
「这让我感觉社交媒体在五年后会是什么样子的一个可能的迹象。」曼札利斯说。
「因为这可能会扩展到互联网的其他部分，而不仅仅是Instagram上吸引人的人群。这可能是个迹象，显示情况会变得相当糟糕。」
曼札利斯。
在超过1000个AI生成的Instagram影响者帐户中，至少有100个包含深度伪造内容，这些内容取自现有视频，通常来自模特和成人娱乐表演者，并用AI生成的面孔替换他们的脸，以使视频看起来新鲜。
这些视频将看起来像是新的、原创的内容，与其他由AI生成的图像和视频一致，这些图像和视频是由AI生成的影响者分享的。
Instagram在收到投诉后将采取行动
Instagram表示，只有在正确的拥有者或授权代表报告的情况下，才会对帐户采取行动。然而，许多真人影响者表示，该渠道提供的功能未能正常运作，因为他们需要跟踪的仿冒者帐户太多。
圣詹姆斯补充道，许多这些由AI生成的影响者帐户由我运营，这使情况更加糟糕。
「我们作为女性在这个世界上赚的钱更少。在很多方面我们处于劣势。在一个我们有优势的领域就是影响者和模特，所以这只是多了一层。」圣詹姆斯说。
「这让我有点不爽，因为一个男性假装成女性赚钱。」她补充道。
苹果公司至今未能解决面孔交换应用的「双重用途」问题，这些应用可能无害但经常用于创建未经同意的内容，因此在被询问此问题后已从应用商店移除。
从零到Web3专业人士：您的90天职业启动计划