Во всем мире дипфейкам уделяется большое внимание. Поскольку появилось множество международных компаний, использующих дипфейки, созданные с помощью ИИ, существует общее согласие относительно общего подхода к этой проблеме. В начале этого года Google в C2PA стал руководящим комитетом вместе с другими организациями, такими как OpenAI, Adobe, Microsoft, AWS и членами RIAA. Из-за проблем, связанных с дипфейками и распространенной дезинформацией ИИ, ИТ-персонал захочет воспользоваться работами этого агентства, делая конкретные ссылки на учетные данные контента.
Учетные данные контента: новый стандарт
Отрасль собирается регулировать конкретную область управления визуальными и видеоданными по всем направлениям, поэтому ИТ-команда будет уделять этому особое внимание. Учетные данные контента — это способ цифровых метаданных, который создатели или владельцы контента могут использовать для получения надлежащих кредитов и обеспечения честности в экосистеме. Эти неизвлекаемые метаданные состоят из имени и сведений об исполнителе и вписываются непосредственно в контент при экспорте или загрузке.
Ярлыки контента, созданные по одним и тем же правилам и разрешениям, имеют большие шансы реализовать стандартизированную маркировку в целостном и принимающем мире благодаря весу компаний, стоящих за этой идеей. Content Credentials представляют собой уникальную возможность по ряду причин. Это поможет укрепить авторитет и надежность среди аудитории, поскольку предоставляет столь необходимую информацию об авторе или творческом процессе. Это создает атмосферу помещения, которая помогает бороться с дезинформацией и дезинформацией.
Прикрепите любые контактные данные к своим работам, чтобы укрепить личность художников, чтобы пользователи могли отслеживать и связывать их для узнавания и видимости. Кроме того, будут приняты некоторые меры, направленные на ненастоящий интернет-контент, например, фальшивый контент, созданный для обмана людей. История Австралии отражает самый большой всплеск дипфейкового мошенничества, как и в остальном мире. Sumsub в своем третьем отчете о мошенничестве с личными данными сообщила, что количество дипфейков в Австралии увеличилось в 15 раз по сравнению с предыдущим годом, а изощренность поддельных СМИ в сторону реалистичных форм продолжает развиваться.
Поскольку человеческий глаз почти мгновенно выключает бдительность, дипфейки становятся очень убедительными. Исследования показывают, что для категоризации изображений может потребоваться до 13 миллисекунд, что намного меньше, чем время, позволяющее человеку обработать информацию и подтвердить или отклонить ее. Австралийский комиссар по электронной безопасности отмечает, что «разработка инноваций, помогающих выявлять дипфейки, пока не поспевает за развитием технологий». Со своей стороны, правительство Австралии взяло на себя обязательство бороться с дипфейками.
Борьба с дипфейками в Австралии
Дипфейки представляют собой вполне реальную угрозу стабильности и безопасности всех австралийцев. Любая долгосрочная кампания по предотвращению дипфейков должна быть сосредоточена на информационных кампаниях, которые помогут людям понять, как работают дипфейки, и доступные варианты, чтобы не стать жертвой этих уловок.
Чтобы это видение воплотилось в жизнь, необходим общеотраслевой консенсус, при котором основные заинтересованные стороны со стороны предложения будут предоставлять технологии и оказывать наибольшее влияние на искусственный интеллект. Но именно здесь имеют место учетные данные контента. Хотя учетные данные контента — лучший шанс создать стандарты, которые решат проблему дипфейков, проблемы обнаружения, регулирования и наказания за неправомерное использование останутся. Это означает, что профилактические меры не являются внеотраслевыми и не поддерживаются массами лидеров в медиаиндустрии. Такие реализации могут охватывать большую часть Интернета, и в такие моменты большинство веб-сайтов мгновенно становятся такими же информативными, как и вирусные сайты в поисковой системе.
Люди, занимающиеся ИТ и искусственным интеллектом, работающие над созданием контента, будут желать. Они должны понимать учетные данные контента так же, как веб-разработчики дошли до уровня, связанного с безопасностью, SEO и всеми стандартами, которые существуют для защиты контента от запрета. Шаги, которые им следует предпринять, включают:
Внедрение учетных данных контента. Во-первых, ИТ-специалисты должны убедиться, что их компания полностью внедрила и интегрировала учетные данные контента в рабочие процессы для обеспечения подлинности и отслеживаемости контента.
Пропаганда прозрачности: предложение внутри и снаружи среди партнеров и клиентов приводит к организованной пропаганде того, чтобы организации были прозрачными в использовании ИИ и принимали этические практики при создании и распространении контента.
Поддержка регулирования: рассмотреть возможность того, чтобы отраслевые органы и правительство руководили формированием политики и правил для противодействия проблемам, вызванным дипфейками. Это не только потребует участия во многих публичных консультациях, которые правительство проведет по вопросам ИИ, но и поможет сформировать политическую работу.
Сотрудничество. Объедините свой опыт с другими специалистами и организациями, создавая общие, последовательные подходы и инструменты для выявления рисков дипфейков.
Подготовка стратегий реагирования. Решите проблемы, связанные с дипфейками, и подготовьте свои планы на случай обнаружения этой технологии, например, устранение ущерба и связь.
Использование ресурсов сообщества. Платформа также должна использовать ресурсы сообществ кибербезопасности, таких как комиссар по электронной безопасности, чтобы своевременно получать информацию о последних событиях.
Формирование дипфейков — самая сложная задача для специалистов по информационным технологиям, которым необходимо найти применимое решение. Content Credentials предоставляет миру прекрасную стартовую организацию, на которой может быть построена остальная часть отрасли.
