一種新的與AI相關的詐騙行為出現，涉及數千個AI生成的影響者，他們使用竊取的真實人像在Instagram等社交網站上大量出現。
這一詐騙行為包括從真實模特和成人內容創作者那裡竊取視頻，給他們AI生成的面孔，並利用他們的身體來獲利，附上諸如Patreon、OnlyFans競爭和各種AI應用的約會網站鏈接。
AI生成的影響者在Instagram上與人類競爭
在四月，404媒體首次報導了這一做法，當時它第一次出現。這一做法現在已經發展成為一種流行趨勢，讓許多人認為Meta運營的社交媒體要麼無能為力，要麼不願意阻止其平台上看似的趨勢。
隨著Instagram上的人類內容創作者表示他們現在與AI內容競爭，這已經影響到他們的生存能力。
借助一些在蘋果應用商店和Google Play商店上提供的現成AI工具和應用，AI影響者現在可以輕鬆創建和盈利他們的帳戶。根據《連線》雜誌，他們審查了超過1000個由AI生成的Instagram帳戶和Discord頻道，那裡製作這些內容的人分享技巧並討論策略，以及幾個解釋如何通過「AI皮條客」賺錢的指南。
《連線》發現，這個問題在Instagram上曾經是小問題，但已經成長為與多個對未來社交媒體格局的預測一致的巨大做法，在這裡AI生成的內容超越了人類的內容。
在Instagram上推廣他們作品的成人內容創作者現在擔心與這些AI仿冒帳戶直接競爭，這些帳戶中許多使用從成人內容創作者和Instagram模特那裡竊取的照片和視頻。
成人內容創作者艾蓮娜·聖詹姆斯表示，雖然Instagram的算法可能還有其他變化可能影響了這一點，但自從Instagram上AI生成的影響者帳戶激增以來，她的「觸及率下降了很多」，從通常的每月100萬到500萬次觀看。她在過去10個月裡沒有突破過100萬，並且有時低於50萬次觀看。
「這可能是我觀看次數下降的原因之一。因為我正在與一些不自然的東西競爭。」聖詹姆斯。
亞歷克西奧斯·曼札利斯是康奈爾科技安全、信任和安全倡議的主任，曾任谷歌信任和安全智能的主要負責人，他在404媒體研究中編制了一個約900個帳戶的名單。
社交媒體不久將會是什麼樣子的標誌
曼札利斯表示，這並不是全新的或令人驚訝的事情，因為這只是實現了早先對AI技術及其在社交媒體平台上採用的預測。
「這讓我感覺社交媒體在五年後會是什麼樣子的一個可能的跡象。」曼札利斯說。
「因為這可能會擴展到互聯網的其他部分，而不僅僅是Instagram上吸引人的人群。這可能是個跡象，顯示情況會變得相當糟糕。」
曼札利斯。
在超過1000個AI生成的Instagram影響者帳戶中，至少有100個包含深度偽造內容，這些內容取自現有視頻，通常來自模特和成人娛樂表演者，並用AI生成的面孔替換他們的臉，以使視頻看起來新鮮。
這些視頻將看起來像是新的、原創的內容，與其他由AI生成的圖像和視頻一致，這些圖像和視頻是由AI生成的影響者分享的。
Instagram在收到投訴後將採取行動
Instagram表示，只有在正確的擁有者或授權代表報告的情況下，才會對帳戶採取行動。然而，許多真人影響者表示，該渠道提供的功能未能正常運作，因為他們需要跟踪的仿冒者帳戶太多。
聖詹姆斯補充道，許多這些由AI生成的影響者帳戶由我運營，這使情況更加糟糕。
「我們作為女性在這個世界上賺的錢更少。在很多方面我們處於劣勢。在一個我們有優勢的領域就是影響者和模特，所以這只是多了一層。」聖詹姆斯說。
「這讓我有點不爽，因為一個男性假裝成女性賺錢。」她補充道。
蘋果公司至今未能解決面孔交換應用的「雙重用途」問題，這些應用可能無害但經常用於創建未經同意的內容，因此在被詢問此問題後已從應用商店移除。
從零到Web3專業人士：您的90天職業啟動計劃
