Исследователи Стэнфордского университета разработали ИИ-агентов, которые могут с замечательной точностью предсказывать человеческое поведение. Недавнее исследование, проведенное доктором Джун Сунг Паком и его командой, демонстрирует, что двухчасовое интервью предоставляет достаточно данных для того, чтобы ИИ воспроизводил шаблоны человеческого принятия решений с 85% нормализованной точностью.
Цифровые клоны физического человека выходят за рамки дипфейков или "низкоранговых адаптаций", известных как LoRAs. Эти точные представления личностей могут быть использованы для профилирования пользователей и тестирования их реакций на различные стимулы, от политических кампаний до политических предложений, оценки настроения и даже более реалистичных версий современных ИИ-аватаров.
Исследовательская группа набрала 1052 американцев, тщательно отобранных для представления разнообразных демографических категорий по возрасту, полу, расе, региону, образованию и политической идеологии. Каждый участник участвовал в двухчасовом разговоре с ИИ-интервьюером, в результате чего были получены транскрипты в среднем по 6491 слову. Интервью, следуя модифицированной версии протокола проекта American Voices, исследовали жизненные истории участников, их ценности и взгляды на текущие социальные проблемы.
И это все, что вам нужно для профилирования и создания клона.
Но, в отличие от других исследований, исследователи применили другой подход к обработке данных интервью. Вместо простого ввода сырых транскриптов в свои системы, исследователи разработали модуль "экспертного размышления". Этот аналитический инструмент рассматривает каждое интервью через несколько профессиональных призматиков — взгляд психолога на личностные черты, точка зрения поведенческого экономиста на шаблоны принятия решений, анализ политолога идеологических позиций и контекстуальная интерпретация демографического эксперта.
Как только этот многомерный анализ завершен, ИИ становится более способным правильно понимать, как работает личность субъекта, получая более глубокое понимание, чем то, что можно было бы достичь, просто пытаясь предсказать наиболее вероятное поведение на основе статистики. Результатом является группа ИИ-агентов на базе GPT-4o, способных воспроизводить человеческое поведение в различных контролируемых сценариях
Тестирование оказалосьRemarkably успешным. "Генеративные агенты воспроизводят ответы участников на Общем социальном опросе с точностью 85%, с которой участники воспроизводят свои собственные ответы через две недели, и показывают сопоставимые результаты в предсказании личностных черт и результатов в экспериментальных репликациях," — говорится в исследовании. Система показала аналогичную способность в воспроизведении пяти основных личностных черт, достигнув корреляции 0.78, и продемонстрировала значительную точность в экономических играх с принятием решений с нормализованной корреляцией 0.66. (Коэффициент корреляции 1 указывает на идеальную положительную корреляцию.)
Особенно примечательно, что система показала уменьшение предвзятости среди расовых и идеологических групп по сравнению с традиционными демографическими подходами, — что, похоже, является проблемой для многих ИИ-систем, которые испытывают трудности с нахождением баланса между стереотипами (предположение, что субъект проявляет черты группы, к которой он принадлежит) и чрезмерной инклюзивностью (избежание статистических/исторических фактических предположений для политической корректности).
"Наша архитектура снижает предвзятость точности среди расовых и идеологических групп по сравнению с агентами, имеющими демографические описания," подчеркнули исследователи, предполагая, что их метод, основанный на интервью, может быть очень полезен для демографического профилирования.
Но это не первая попытка использовать ИИ для профилирования людей.
В Японии платформа CLONEdev компании alt Inc. экспериментирует с генерацией личности через интеграцию данных о жизни. Их система сочетает продвинутую обработку языка с генерацией изображений, чтобы создавать цифровые клоны, которые отражают ценности и предпочтения пользователей. "С помощью нашей технологии P.A.I мы стремимся к цифровизации всего человеческого рода," — говорится в официальном блоге alt In.
А иногда вам даже не нужно индивидуальное интервью. Например, MileiGPT. Исследователь ИИ из Аргентины смог доработать открытый LLM с тысячами часов общедоступного контента и воспроизвести паттерны общения и процессы принятия решений президента Аргентины Хавьера Милея. Эти достижения побудили исследователей исследовать идею мыслящих/чувствующих "цифровых близнецов", которые технологические аналитики и эксперты, такие как Роб Эндерли, считают полностью функциональными в течение следующих 10 лет.
И, конечно, если ИИ-роботы не заберут ваши рабочие места, ваш ИИ-близнец, вероятно, сделает это. "Появление таких близнецов потребует огромного количества размышлений и этического рассмотрения, потому что мыслящий аналог нас самих может быть невероятно полезен работодателям," — сказал Эндерли BBC. "Что произойдёт, если ваша компания создаст цифрового близнеца вас и скажет: 'Эй, у вас есть этот цифровой близнец, которому мы не платим зарплату, так почему мы все еще нанимаем вас?'"
Вещи могут выглядеть немного пугающе. Не только дипфейки будут имитировать вашу внешность, но и ИИ-клоны смогут имитировать ваши решения на основе короткого профилирования вашего поведения. Хотя исследователи Стэнфорда позаботились о мерах предосторожности, очевидно, что грань между человеческой и цифровой идентичностью становится все более размытым. И мы уже пересекаем её.
