Чат-боты с искусственным интеллектом могут снизить веру в теории заговора, предоставляя точную информацию и логические аргументы.
Новое исследование, опубликованное в журнале Science в середине сентября, дает новую надежду в борьбе с дезинформацией. Исследования, проведенные учеными Американского университета, показывают, что искусственный интеллект (ИИ) можно использовать для опровержения теории заговора.
Исследователи разработали чат-бота на основе модели большого языка OpenAI GPT-4 Turbo, обученного логически опровергать теории заговора и предоставлять убедительные доказательства.
Более 1000 участников исследования попросили описать теорию заговора, в которую они верили, и объяснить, почему они в нее верят. Затем им был предоставлен чат с чат-ботом, в котором чат-бот предоставил информацию и доказательства, опровергающие теорию заговора.
Результаты показали, что после взаимодействия с чат-ботом вера участников в теории заговора снизилась в среднем на 21%. Даже 25% участников перешли из состояния твёрдой уверенности в состояние неопределённости.
Теории заговора и дезинформация быстро распространились во время пандемии COVID-19, в результате чего многие правительственные учреждения столкнулись с трудностями. Источник: Холли Адамс/Getty. Потенциал и проблемы.
В нынешнем контексте широко распространенной дезинформации и теорий заговора это исследование доказывает, что ИИ обладает огромным потенциалом в убеждении и изменении человеческого мышления, особенно в борьбе с теориями заговора.
Однако исследователи отмечают, что это исследование является лишь первым шагом. Участниками были люди, которым заплатили за участие в опросе, что, возможно, не является репрезентативным для людей, которые твердо верят в теории заговора.
Необходимо провести дальнейшие исследования для оценки эффективности чат-ботов с использованием других методов, а также тестирование с использованием LLM с более низкими мерами безопасности, чтобы гарантировать, что чат-боты непреднамеренно не усиливают конспирологическое мышление.
Исследователи также стремятся глубже изучить стратегии взаимодействия чат-бота, включая тестирование невежливых ответов, чтобы лучше понять, какие факторы способствуют успеху.
Кроме того, важной задачей является обеспечение того, чтобы чат-боты не создавали ложную информацию. Исследователи использовали проверку фактов, чтобы оценить точность информации, предоставляемой чат-ботом, гарантируя, что чат-бот не предоставит ложную информацию или политическую предвзятость.
