Эксперты по искусственному интеллекту предупреждают, что мертвый искусственный интеллект или цифровые реанимации умерших вот-вот станут реальностью. Следовательно, необходимо регулирование этого вопроса, чтобы люди не получали психологический вред из-за «преследований» их создателей и пользователей.
Примером таких услуг, будучи технологически возможным и юридически допустимым, могло бы стать создание чат-ботов, которые используют сохраненные разговоры с потерянным человеком, чтобы «перезвонить бабушке» в смысле понимания эмоций людей после прослушивания таких обсуждений, как заявили в университете. ученых Кембриджа
Некоторые компании предлагают услуги, напоминающие эпизод «Черного зеркала» «Сейчас вернусь», который позволяет чат-боту имитировать языковые модели и черты личности умершего человека, используя оставленный им цифровой след, говорится в исследовании.
Правила безопасности призваны защитить цифровое достоинство
В исследовании, опубликованном в журнале «Философия и технология», представлены примеры того, как компании могут использовать мертвых роботов, например, для рекламы продуктов человеку так же, как это делает умерший близкий человек, или для травмирования детей, утверждая, что мертвый человек родитель «с тобой».
Однако в любом случае ненадежные компании и безрассудные деловые инициативы могут привести к долгосрочному психологическому ущербу и нарушению прав умершего, предполагает газета.
Исследователи предполагают, что ежедневные взаимодействия происходят с огромной эмоциональной нагрузкой. Они утверждают, что такая эмоциональная поддержка может также помешать процессу скорби — естественному способу справиться с потерей.
Этическое минное поле
Доктор Катажина Новачик-Басинска, один из соавторов исследования в Кембриджском Центре будущего интеллекта (LCFI) в Леверхалме, заявила: «Быстрые достижения в области генеративного искусственного интеллекта означают, что почти любой, у кого есть доступ в Интернет и некоторые базовые ноу-хау, может оживить умершего близкого человека». один."
Эта область ИИ кажется этическим минным полем. Самое важное, что нужно сделать, — это гарантировать, что достоинство умершего не будет ущемлено коммерческими службами, такими как, например, поставщики цифровых технологий загробной жизни. Основная проблема может возникнуть у компаний, которые будут коммерциализировать свою устаревшую онлайн-инфраструктуру с помощью рекламы.
Особенно рискованно вовлекать в этот процесс детей, поскольку они могут столкнуться с худшим результатом. Товарищеские отношения в виде «мертвых роботов» вскоре могут стать необходимыми для родителей, желающих утешить своих детей, недавно потерявших маму или папу.
Влияние на процесс скорби
Однако нет исследований, которые могли бы указать на целесообразность таких усилий, которые заставили бы задуматься об их возможных последствиях, которые могут быть очень неприятными, не говоря уже о том, что они могут негативно помешать нормальному процессу скорби.
Согласно исследованию, «ни одна служба воссоздания не может доказать, что разрешение детям взаимодействовать с «мертвыми роботами» приносит пользу или, по крайней мере, не вредит этой уязвимой группе».
Чтобы обеспечить достоинство умерших и психологическое благополучие живых, исследователи предлагают ряд передовых практик, которые можно использовать вплоть до принятия законов, регулирующих их.
Этим платформам нужны протоколы для «удаления» мертвых ботов, ограничения их интерактивных функций только взрослыми, признания ограничений любого искусственного объекта в полной работе и обеспечения максимальной прозрачности для клиентов.
Глобальный охват и разнообразные приложения
По мнению исследователей, существуют платформы, на которых изображение умершего человека можно создать с помощью ИИ за умеренную плату. Например, есть Project October, который изначально использовал модели GPT, а затем свои системы, а также такие приложения, как Hereafter.
Аналогично, существуют китайские аналоги с теми же услугами, указанными в исследовании. В 2021 году Джошуа Барбо привлек внимание общественности, когда использовал GPT-3 для разработки чат-бота, который говорил голосом своей скончавшейся девушки. В 2015 году Евгения Куйда превратила сообщения своего умершего друга в чат-бота, уступив место самому популярному приложению-компаньону с искусственным интеллектом под названием Replika.
Технология также не ограничивается чат-ботами. MyHeritage, генеалогический сайт, в 2021 году представил Deep Nostalgia — функцию, которая создает анимированные видеоролики из отдельных изображений с предками пользователей. Как только эта функция стала вирусной, компании пришлось признать, что многим пользователям она показалась жуткой. С постепенным развитием этих технологий не существует альтернативных средств, кроме соблюдения этических норм для содействия развитию.