Часть волшебства генеративного искусственного интеллекта заключается в том, что большинство людей понятия не имеют, как он работает. На определенном уровне будет даже справедливо сказать, что никто не до конца уверен в том, как это работает, поскольку внутренняя работа ChatGPT может поставить в тупик самых ярких ученых. Это черный ящик. Мы не совсем уверены в том, как оно обучается, какие данные дают какие результаты и какая интеллектуальная собственность попирается в процессе. Это одновременно часть волшебства и часть того, что пугает. Ариана Спринг выступает со спикером на фестивале «Консенсус» в этом году, который пройдет в Остине, штат Техас, 29–31 мая.
Что, если бы существовал способ заглянуть внутрь черного ящика, позволяющий четко представить, как ИИ управляется, обучается и создается? Это цель — или одна из целей — лаборатории EQTY Lab, которая проводит исследования и создает инструменты, позволяющие сделать модели ИИ более прозрачными и совместными. Например, Lineage Explorer от EQTY Lab дает представление о том, как строится модель, в режиме реального времени.
Все эти инструменты предназначены для проверки непрозрачности и централизации. «Если вы не понимаете, почему ИИ принимает те или иные решения или кто несет за него ответственность, действительно сложно выяснить, почему извергаются вредные вещи», — говорит Ариана Спринг, руководитель отдела исследований в EQTY Lab. «Поэтому я считаю, что централизация и хранение этих секретов в черных ящиках действительно опасны».
Вместе со своим коллегой Эндрю Станко (руководителем финансового отдела) Спринг рассказывает, как криптовалюта может создать более прозрачный ИИ, как эти инструменты уже используются в науке об изменении климата и почему эти модели с открытым исходным кодом могут быть более инклюзивными и репрезентативными. человечество в целом.
Интервью было сокращено и слегка отредактировано для ясности.
Каковы видение и цель EQTY Lab?
Ариана Спринг: Мы разрабатываем новые решения для укрепления доверия и инноваций в области искусственного интеллекта. Генеративный искусственный интеллект сейчас является горячей темой, и это самое новое свойство, поэтому мы сосредоточены на нем.
Но мы также рассматриваем различные виды искусственного интеллекта и управления данными. И действительно, доверие и инновации — это то, на что мы опираемся. Мы делаем это, используя передовую криптографию, чтобы сделать модели более прозрачными, а также совместными. Мы рассматриваем прозрачность и сотрудничество как две стороны одной медали создания более умного и безопасного ИИ.
Можете ли вы рассказать немного больше о том, как криптовалюта вписывается в это? Потому что вы видите, как многие люди говорят, что «Криптовалюта и ИИ отлично подходят друг другу», но часто обоснование ограничивается очень высоким уровнем.
Эндрю Станко: Я думаю, что пересечение искусственного интеллекта и криптографии — это вопрос открытый, не так ли? Мы обнаружили одну вещь: скрытый секрет ИИ заключается в том, что он предполагает сотрудничество; у него есть множество заинтересованных сторон. Ни один специалист по данным не смог бы создать модель ИИ. Они могут его обучить, они могут его точно настроить, но криптография становится способом сделать что-то, а затем иметь защищенный от несанкционированного доступа способ проверки того, что это произошло.
Таким образом, в таком сложном процессе, как обучение ИИ, наличие защищенных от несанкционированного доступа и проверяемых аттестаций — как во время обучения, так и после него — действительно помогает. Это создает доверие и видимость.
Ариана Спринг: Мы делаем так, чтобы на каждом этапе жизненного цикла ИИ и процесса обучения проводилось нотариальное заверение — или печать — того, что произошло. Это децентрализованный идентификатор или идентификатор, связанный с агентом, человеком или машиной, выполняющим это действие. У вас есть отметка времени. А с помощью нашего Lineage Explorer вы можете видеть, что все, что мы делаем, автоматически регистрируется с использованием криптографии.
А затем мы используем смарт-контракты в наших продуктах управления. Таким образом, если параметр X соблюден или не соблюден, определенное действие может быть выполнено или не выполнено. Одним из инструментов, которые у нас есть, является Governance Studio, который в основном программирует, как вы можете обучать ИИ или как вы можете управлять своим жизненным циклом ИИ, и это затем отражается на последующих этапах.
Можете ли вы немного уточнить, какие инструменты вы создаете? Например, вы создаете инструменты и проводите исследования, которые призваны помочь другим стартапам создавать модели обучения, или вы сами создаете модели обучения? Другими словами, какова именно роль EQTY Labs в этой среде?
Эндрю Станко: В каком-то смысле это смесь, потому что мы фокусируемся на предприятии, поскольку это будет одно из первых крупных мест, где вам нужно будет правильно использовать ИИ с точки зрения обучения и управления. Если вникнуть в это, то нам нужна область, где разработчик — или кто-то из этой организации — может аннотировать код и сказать: «Хорошо, вот что произошло», а затем создать запись. Он ориентирован на предприятия, с упором на работу с разработчиками и людьми, создающими и развертывающими модели.
Ариана Спринг: И мы также работали над обучением модели через Фонд климатической разведки. Мы помогли обучить модель под названием ClimateGPT, которая представляет собой модель большого языка, ориентированную на климат. Это не наш хлеб с маслом, но мы прошли через этот процесс и использовали наш набор технологий для визуализации этого процесса. Итак, мы понимаем, что это такое.
Что вас больше всего волнует в ИИ и что вас больше всего пугает в ИИ?
Эндрю Станко: Я имею в виду волнение: в тот первый момент, когда вы взаимодействуете с генеративным искусственным интеллектом, вам казалось, что вы откупорили молнию в модели. Когда вы впервые создаете приглашение в MidJourney или задаете вопрос ChatGPT, никому не нужно убеждать вас в том, что, возможно, это мощный инструмент. И я не думал, что там уже много нового, да?
А что касается террора?
Эндрю Станко: Я думаю, что это беспокойство, которое, возможно, является подтекстом для многих вещей, которые будут обсуждаться на Консенсусе, просто взглянув на повестку дня. Проблема заключается в том, что эти инструменты позволяют существующим победителям копать более глубокие режимы. Это не обязательно прорывная технология, а укрепляющая.
А Ариана, ваш главный ИИ, волнение и ужас?
Ариана Спринг: Начну со своего страха, потому что собиралась сказать нечто подобное. Я бы сказал централизация. Мы видели вред централизации в сочетании с отсутствием прозрачности того, как что-то работает. Мы видели это за последние 10-15 лет, например, в социальных сетях. И если вы не понимаете, почему ИИ принимает те или иные решения или кто несет за это ответственность, действительно сложно задаться вопросом, почему извергаются вредные вещи. Поэтому я считаю, что централизация и хранение этих секретов в черных ящиках действительно опасны.
Как насчет волнения?
Что меня больше всего радует, так это привлечение большего количества людей. У нас была возможность работать с несколькими различными типами групп заинтересованных сторон, когда мы обучали ClimateGPT, такими как группы пожилых людей из числа коренного населения или группы с низкими доходами, городская, чернокожая и коричневая молодежь, или студенты на Ближнем Востоке. Мы работаем со всеми этими климатическими активистами и учеными, чтобы как бы сказать: «Эй, вы хотите помочь сделать эту модель лучше?»
Люди очень взволнованы, но, возможно, они не поняли, как это работает. Как только мы научили их, как это работает и как они могут помочь, вы могли увидеть, как они говорят: «О, это хорошо». Они обретают уверенность. Тогда они захотят внести больше. Поэтому я очень рад, особенно благодаря работе, которую мы проводим в EQTY Research, начать публикацию некоторых из этих фреймворков, чтобы нам не приходилось полагаться на системы, которые, возможно, не являются столь репрезентативными.
Красиво сказано. Увидимся в Остине на саммите AI Summit.