Частина магії Generative AI полягає в тому, що більшість людей не мають уявлення, як він працює. На певному рівні можна навіть сказати, що ніхто не впевнений, як це працює, оскільки внутрішня робота ChatGPT може збити з пантелику найталановитіших вчених. Це чорний ящик. Ми не зовсім впевнені, як це навчено, які дані дають які результати та яка IP-адреса порушується в процесі. Це і частина магії, і частина того, що жахає. Аріана Спрінг є спікером цьогорічного фестивалю Consensus в Остіні, Техас, 29-31 травня.
Що, якби був спосіб зазирнути всередину чорної скриньки, дозволяючи чітко візуалізувати, як ШІ керується, навчається та виробляється? Це мета — або одна з цілей — EQTY Lab, яка проводить дослідження та створює інструменти, щоб зробити моделі ШІ більш прозорими та зручними для співпраці. Lineage Explorer від EQTY Lab, наприклад, надає в режимі реального часу перегляд того, як будується модель.
Усі ці інструменти призначені для перевірки непрозорості та централізації. «Якщо ви не розумієте, чому штучний інтелект приймає рішення, які він приймає, або хто несе відповідальність, то справді важко запитати, чому викидаються шкідливі речі», — каже Аріана Спрінг, керівник відділу досліджень EQTY Lab. «Тож я вважаю, що централізація — і зберігання цих секретів у чорних скриньках — справді небезпечна».
Разом зі своїм колегою Ендрю Станко (голова фінансового відділу) Спрінг ділиться тим, як криптовалюта може створити більш прозорий штучний інтелект, як ці інструменти вже розгортаються в науці про зміну клімату та чому ці моделі з відкритим кодом можуть бути більш інклюзивними та репрезентативними. людство в цілому.
Інтерв’ю було скорочено та дещо відредаговано для ясності.
Яке бачення та мета EQTY Lab?
Аріана Спрінг: Ми є піонерами нових рішень для зміцнення довіри та інновацій у ШІ. І генеративний штучний інтелект зараз є гарячою темою, і це найбільш актуальна властивість, тож це те, на чому ми зосереджені.
Але також ми розглядаємо різні види ШІ та управління даними. І дійсно довіра та інновації – це те, на що ми спираємося. Ми робимо це, використовуючи вдосконалену криптографію, щоб зробити моделі більш прозорими, але також придатними для співпраці. Ми розглядаємо прозорість і співпрацю як дві сторони однієї медалі для створення розумнішого та безпечнішого ШІ.
Чи можете ви розповісти трохи більше про те, як криптовалюта вписується в це? Тому що ви бачите, як багато людей говорять, що «крипто та штучний інтелект чудово підходять», але часто обґрунтування зупиняється на дуже високому рівні.
Ендрю Станко: Я вважаю, що перетин ШІ та криптографії є відкритим питанням, чи не так? Одне, що ми з’ясували, полягає в тому, що прихований секрет штучного інтелекту полягає в його співпраці; він має безліч зацікавлених сторін. Жоден дослідник даних не міг створити модель ШІ. Вони можуть навчити його, вони можуть його точно налаштувати, але криптографія стає способом зробити щось, а потім мати захищений від несанкціонованого доступу спосіб перевірити, що це сталося.
Отже, у такому складному процесі, як навчання штучному інтелекту, наявність цих захищених від втручання та перевірених сертифікатів — як під час навчання, так і після нього — справді допомагає. Це створює довіру та видимість.
Аріана Спрінг: Що ми робимо, так це те, що на кожному етапі життєвого циклу штучного інтелекту та процесу навчання є нотаріальне засвідчення — або печатка — того, що сталося. Це децентралізований ідентифікатор або ідентифікатор, пов’язаний з агентом, людиною чи машиною, яка виконує цю дію. У вас є позначка часу. А з нашим Lineage Explorer ви можете побачити, що все, що ми робимо, реєструється автоматично за допомогою криптографії.
А потім ми використовуємо розумні контракти в наших продуктах управління. Отже, якщо параметр X виконується або не виконується, певна дія може продовжуватися або не продовжуватися. Одним із інструментів, які ми маємо, є Governance Studio, який, по суті, програмує, як ви можете навчити ШІ або як ви можете керувати своїм життєвим циклом ШІ, і це потім відображається далі.
Чи можете ви трохи пояснити, який тип інструментів ви створюєте? Наприклад, ви створюєте інструменти та проводите дослідження, які мають допомогти іншим стартапам будувати моделі навчання, чи ви створюєте моделі навчання самі? Іншими словами, яка саме роль EQTY Labs у цьому середовищі?
Ендрю Станко: У певному сенсі це суміш, тому що ми зосереджені на підприємстві, оскільки це буде одне з перших великих місць, де вам потрібно отримати правильний ШІ з точки зору навчання та управління. Якщо ви заглибитеся в це, то нам потрібна область, де розробник або хтось із цієї організації може анотувати код і сказати: «Добре, ось що сталося», а потім створити запис. Він орієнтований на підприємство з наголосом на роботі з розробниками та людьми, які створюють і розгортають моделі.
Аріана Спрінг: І ми також працювали над навчанням моделі через Фонд кліматичних досліджень. Ми допомогли навчити модель під назвою ClimateGPT, яка є великою мовною моделлю, що залежить від клімату. Це не наш хліб з маслом, але ми пройшли через процес і використали наш набір технологій, щоб візуалізувати цей процес. Тому ми розуміємо, що це таке.
Що вас найбільше хвилює в ШІ, а що найбільше лякає?
Ендрю Станко: Я маю на увазі, для хвилювання, той перший момент, коли ви взаємодієте з генеративним ШІ, відчував себе так, ніби ви відкоркували блискавку в моделі. Коли ви вперше створюєте підказку в MidJourney або ставите запитання ChatGPT, нікому не доводиться переконувати вас, що це може бути потужним. І я вже не думав, що є багато нового, чи не так?
А щодо терору?
Ендрю Станко: Я вважаю, що це занепокоєння, яке, можливо, є підтекстом для багатьох з того, що буде відбуватися на Консенсусі, просто від погляду на порядок денний. Занепокоєння полягає в тому, що ці інструменти дозволяють існуючим переможцям копати глибші режими. Що це не обов’язково революційна технологія, а закріплююча.
А Аріана, ваше головне хвилювання та жах ШІ?
Аріана Спрінг: Я почну зі свого страху, тому що я збиралася сказати щось подібне. Я б сказав централізацію. Ми бачили шкоду централізації в поєднанні з відсутністю прозорості щодо того, як щось працює. Ми спостерігали це за останні 10-15 років, наприклад, у соціальних мережах. І якщо ви не розумієте, чому штучний інтелект приймає рішення, які він приймає, або хто несе відповідальність, справді важко запитати, чому шкідливі речі вивергаються. Тож я вважаю, що централізація — і зберігання цих секретів у чорних скриньках — справді небезпечна.
Як щодо хвилювання?
Мене найбільше хвилює залучення більшої кількості людей. Під час навчання ClimateGPT у нас була можливість працювати з кількома різними групами зацікавлених сторін, такими як групи корінного населення похилого віку чи малозабезпечені, міська, темношкіра молодь, або студенти на Близькому Сході. Ми працюємо з усіма цими кліматичними активістами та науковцями, щоб сказати: «Гей, ти хочеш допомогти зробити цю модель кращою?»
Люди дуже схвильовані, але, можливо, вони не розуміли, як це працює. Коли ми навчили їх, як це працює і як вони можуть допомогти, ви могли побачити, як вони сказали: «О, це добре». Вони набувають впевненості. Тоді вони хочуть зробити більше. Тож я дуже радий, особливо завдяки роботі, яку ми робимо в EQTY Research, розпочати публікацію деяких із цих фреймворків, щоб нам не довелося покладатися на системи, які, можливо, не є такими репрезентативними.
Красиво сказано. До зустрічі в Остіні на саміті Consensus AI Summit.