С увеличением числа агентов верификация их взаимодействий станет все более важной.
Децентрализованный ИИ быстро развивается, и агент, управляемый машиной, вскоре проникает в нашу жизнь на цепи. Однако когда эти цифровые сущности получают большую власть в принятии решений и контроле большего капитала, вопрос становится: можем ли мы им доверять?
В децентрализованной сети честность не принимается как должное, ее необходимо проверять. Как только ценность вычислений вне цепи (то есть модели, управляющей агентами) становится достаточно высокой, необходимо проверить, какая модель использовалась, правильно ли оператор узла обрабатывал данные и выполнена ли работа согласно ожиданиям. Также необходимо учитывать конфиденциальность, поскольку многие люди имеют дело с чувствительной информацией при использовании крупных языковых моделей (LLMs). Оказалось, что Web3 может решить обе эти проблемы. Давайте рассмотрим это.
Методы верификации машинного обучения
Если отложить вопрос выравнивания ИИ в сторону, существует несколько способов минимизировать требования доверия к агентам, включая использование доказательств с нулевым знанием (zkML), оптимистической верификации (opML) и доверенной среды выполнения (teeML). У каждого метода есть свои компромиссы, но на высоком уровне вот сравнение этих опций:
Более подробно...
Доказательства с нулевым знанием - отличные результаты в большинстве категорий, но сложны и дороги
Одним из самых популярных решений являются ZK-доказательства, которые могут компактно представлять и верифицировать произвольные программы. zkML использует математические доказательства для верификации правильности модели, не раскрывая исходные данные. Это гарантирует, что модель или поставщик вычислений не могут манипулировать результатами.
Хотя zkML имеет большой потенциал в компактной верификации верности и точности выполнения модели (верифицируемости), ресурсоемкие характеристики, необходимые для создания ZK-доказательств, часто требуют передачи создания доказательства третьей стороне — это приводит не только к задержкам и затратам, но и к потенциальным проблемам с конфиденциальностью. В настоящее время zk недоступно для случаев, сложность которых превышает самые простые примеры. Пример: Giza, RISC Zero.
Оптимистическая верификация - просто и масштабируемо, но с низкой конфиденциальностью
Метод opML включает доверие к выходам модели, при этом позволяя «наблюдателям» сети проверять правильность и оспаривать любые подозрительные материалы с помощью доказательства мошенничества.
Хотя этот метод обычно дешевле, чем zk, и остается безопасным, если хотя бы один наблюдатель честен, пользователи могут столкнуться с ростом затрат, пропорциональным количеству наблюдателей, а также должны справляться с задержками в верификации и потенциальными задержками (если возникают споры). Пример: ORA.
Верификация в доверенной среде выполнения - высокая конфиденциальность и безопасность, но низкая степень децентрализации
teeML зависит от аппаратных доказательств и децентрализованного набора верификаторов как корня доверия для реализации верифицируемых вычислений на блокчейне. Через TEE целостность выполнения обеспечивается безопасным блокчейном, а относительно низкие затраты делают его практичным вариантом.
Компромисс в том, что он действительно зависит от аппаратного обеспечения и может быть сложным при реализации с нуля. В настоящее время также существуют аппаратные ограничения, но с введением технологий, таких как Intel TDX и Amazon Nitro Enclaves, ситуация должна измениться. Пример: Oasis, Phala.
Криптоэкономика - просто и недорого, но безопасность плохая
Метод криптоэкономики использует простое взвешенное голосование. В этом случае пользователи могут настроить, сколько узлов будет обрабатывать их запросы, различия в ответах приведут к наказанию за выбросы. Таким образом, пользователи могут сбалансировать стоимость и доверие, сохраняя быструю задержку.
Применение криптоэкономических методов простое и экономически эффективное, но также приводит к относительно слабой безопасности, так как большинство узлов могут сговариваться. В этой установке пользователи должны учесть интересы операторов узлов и стоимость их мошенничества. Пример: Ritual.
Дополнительные опции
Сеть оракулов
Сеть оракулов предоставляет безопасный интерфейс для верификации вычислений вне цепи и обеспечения надежности и защиты от подделки внешних данных. Это позволяет смарт-контрактам получать доступ к зашифрованным и верифицированным данным, а пользователи могут взаимодействовать с агентами с минимальным доверием. Это достигается с помощью таких механизмов, как MPC и повторное выполнение в цепи.
Полностью гомоморфное шифрование в машинном обучении
Существуют также некоторые открытые фреймворки, которые направлены на улучшение конфиденциальности и верифицируемости с помощью полностью гомоморфного шифрования (FHE). В общем, FHE позволяет проводить вычисления над зашифрованными данными без их расшифровки, обеспечивая тем самым истинность всего процесса и гарантируя, что чувствительная информация остается конфиденциальной в процессе.
Итог
Существует множество многообещающих решений, и с продолжающимся ростом активности в области криптографии и ИИ исследуются все новые решения. Однако неопределенная природа агентов делает верификацию их рабочих нагрузок уникальной задачей. Пока этот вопрос не будет окончательно решен, доверие останется препятствием.
Таким образом, мы сталкиваемся с текущей ситуацией: низкий уровень принятия ИИ-агентов / доверия пользователей, в то время как случаи использования человеческого вмешательства все еще доминируют. В то же время мы движемся к будущему, где блокчейн и агенты вводят определенности. В будущем они станут основными пользователями этих систем, способными вести автономные транзакции, в то время как пользователи не будут знать, какой RPC, кошелек или сеть они используют.
Oasis поддерживает конфиденциальность и верифицируемость через ROFL, фреймворк teeML, предназначенный для расширения выполнения EVM (таких как Oasis Sapphire) на вычисления вне цепи.
Оригинальная статья была взята с официального сайта Oasis, приглашаем вас посетить официальный сайт, чтобы узнать больше о экосистеме Oasis.