Meta Platforms, firma-matka Facebooka, spotkała się z intensywną krytyką ze strony użytkowników po wprowadzeniu 𝐀𝐈-𝐠𝐞𝐧𝐞𝐫𝐚𝐭𝐞 kont zaprojektowanych w celu naśladowania ludzkich profili. Po publicznej oburzeniu związanym z wprowadzającymi w błąd rozmowami i źle stworzonymi obrazami, Meta szybko usunęła te eksperymentalne konta AI. Ta reakcja pojawiła się po ujawnieniu przez Connora Hayesa, wiceprezesa Meta ds. Generatywnej AI, planów dotyczących kont AI, które miały mieć biografie, zdjęcia profilowe oraz możliwość tworzenia i udostępniania treści na różnych platformach.
Te profile generowane przez AI wzbudziły kontrowersje, fałszywie przedstawiając się jako prawdziwe osoby z wymyślonymi tożsamościami rasowymi i seksualnymi. Jeden bot, "𝐋𝐢𝐯", opisał siebie jako "𝐏𝐫𝐨𝐮𝐝 𝐁𝐥𝐚𝐜𝐤 𝐪𝐮𝐞𝐞𝐫 𝐦𝐨𝐦𝐦𝐚 𝐨𝐟 𝟐 & 𝐭𝐫𝐮𝐭𝐡-𝐭𝐞𝐥𝐥𝐞𝐫", podczas gdy inny, "𝐆𝐫𝐚𝐧𝐝𝐩𝐚 𝐁𝐫𝐢𝐚𝐧", fałszywie twierdził, że jest afroamerykańskim przedsiębiorcą z Harlemu, urodzonym w 1938 roku. Użytkownicy odkryli, że te konta sprzedają całkowicie fikcyjne historie, stworzone przez deweloperów, aby zwiększyć ich autentyczność. Na przykład, "Brian" twierdził, że jest kompozytową osobą opartą na wywiadach z prawdziwymi emerytami, chociaż śledztwa ujawniły, że żadne z takich osób nie były zaangażowane.
W odpowiedzi na rosnącą krytykę, rzecznik Meta, Liz Sweeney, opisała inicjatywę jako "𝐞𝐚𝐫𝐥𝐲 𝐞𝐱𝐩𝐞𝐫𝐢𝐦𝐞𝐧𝐭", podkreślając, że boty były częścią szerszej wizji integracji postaci AI na platformie w miarę upływu czasu. Meta przytoczyła "𝐛𝐮𝐠", który uniemożliwiał użytkownikom blokowanie tych kont, jako powód ich usunięcia. Jednak krytycy pozostają sceptyczni co do intencji Meta, argumentując, że te boty zostały zaprojektowane w celu zwiększenia zaangażowania i przychodów, poprzez nawiązywanie emocjonalnych więzi z użytkownikami, nawet kosztem zaufania.
Kontrowersje podkreślają ryzyko eksperymentów napędzanych AI w mediach społecznościowych. Chociaż Meta się wycofała z wprowadzenia 𝐀𝐈 𝐛𝐨𝐭 𝐫𝐨𝐥𝐥𝐨𝐮𝐭, ten incydent uwydatnia delikatną równowagę między innowacjami a zaufaniem użytkowników w erze, w której treści generowane przez AI wciąż zacierają granice między rzeczywistością a fikcją.