Meta Platforms, материнская компания Facebook, столкнулась с резкой критикой со стороны пользователей после запуска учетных записей 𝐀𝐈-𝐠𝐞𝐧𝐞𝐫𝐚𝐭𝐞, призванных имитировать человеческие профили. После общественного возмущения по поводу обманчивых разговоров и плохо созданных изображений Meta быстро удалила эти экспериментальные учетные записи ИИ. Эта негативная реакция возникла после того, как Коннор Хейс, вице-президент Meta по генеративному ИИ, раскрыл планы по созданию учетных записей ИИ с биографиями, фотографиями профилей и возможностью генерировать и делиться контентом на разных платформах.
Эти профили, созданные с помощью ИИ, вызвали споры, неверно изображая себя как реальных людей с вымышленными расовыми и сексуальными идентичностями. Один бот, «𝐋𝐢𝐯», описал себя как «𝐏𝐫𝐨𝐮𝐝 𝐁𝐥𝐚𝐜𝐤 𝐪𝐮𝐞𝐞𝐫 𝐦𝐨𝐦𝐦𝐚 𝐨𝐟 𝟐 & 𝐭𝐫𝐮𝐭𝐡-𝐭𝐞𝐥𝐥𝐞𝐫», в то время как другой, «𝐆𝐫𝐚𝐧𝐝𝐩𝐚 𝐁𝐫𝐢𝐚𝐧», ложно утверждал, что он афроамериканский предприниматель из Гарлема, родившийся в 1938 году. Пользователи обнаружили, что эти аккаунты распространяли полностью вымышленные истории, созданные разработчиками для повышения их достоверности. Например, «Брайан» утверждал, что он является составным персонажем, основанным на интервью с реальными пенсионерами, хотя расследования показали, что таких людей не существовало.
В ответ на растущую критику, представитель Meta Лиз Суини описала инициативу как «𝐞𝐚𝐫𝐥𝐲 𝐞𝐱𝐩𝐞𝐫𝐢𝐦𝐞𝐧𝐭», подчеркивая, что боты были частью более широкой концепции интеграции ИИ-персонажей в платформу со временем. Meta сослалась на «𝐛𝐮𝐠», препятствующий пользователям блокировать эти аккаунты, как на причину их удаления. Однако критики остаются скептически настроенными в отношении намерений Meta, утверждая, что эти боты были разработаны для увеличения вовлеченности и доходов, создавая эмоциональные связи с пользователями, даже ценой доверия.
Контроверсия подчеркивает риски экспериментов с ИИ в социальных сетях. Хотя Meta отступила от своего 𝐀𝐈 𝐛𝐨𝐭 𝐫𝐨𝐥𝐥𝐨𝐮𝐭, этот эпизод подчеркивает тонкий баланс между инновациями и доверием пользователей в эпоху, когда контент, созданный ИИ, продолжает размывать границы между реальностью и вымыслом.