Автор оригіналу: Ван Чао

Джерело: Empower Labs

23 березня суперечливий генеральний директор Stability AI Емад Мостаке оголосив про свою відставку та в майбутньому повністю присвятить себе децентралізованій галузі штучного інтелекту. Ця новина викликала неабиякий шок на ринку.

З одного боку, Stability.AI колись самостійно тримав прапор ШІ з відкритим кодом і зробив важливий внесок у розвиток штучного інтелекту з відкритим кодом, з іншого боку, його постійно звинувачували в тому, що він самостійно використовує результати інших дослідницьких груп. Викриття фальшивої академічної кваліфікації генерального директора Емада та частої брехні в соціальних мережах ще більше підірвало його репутацію. Колись Stability.AI міг похвалитися блискучою підтримкою інвесторів і величезним фінансуванням, а вже давно переживає серйозні фінансові проблеми, і його життя висить на волосині.

Після відставки Емад заявив, що він все ще володіє більшим пакетом акцій Stability.AI, достатнім для контролю над радою директорів. Його не змусили піти у відставку, але він вважав, що висока концентрація влади в області штучного інтелекту шкідлива для всіх, тому він вирішив піти у відставку, щоб просувати зміни в Stability.AI. Враховуючи сумну історію хвастощів Емада, більшість людей припускали, що це щось більше. Однак замість Stability.AI я хотів би обговорити децентралізований штучний інтелект, до якого буде залучений Емад.

Кілька тижнів тому я брав участь у дискусії навколо децентралізованого ШІ з Емадом. Після цього я зібрав багато його минулих промов з цього приводу й приблизно відсортував його точку зору.

Той, хто контролює модель, контролює розум

Якщо діями людини керує операційна система, ШІ швидко стає зовнішнім основним компонентом цієї операційної системи. Оскільки люди поступово пристосувалися до передачі тягаря мислення штучному інтелекту, ця технологія є частиною нашого способу мислення. Однак зручність і розширення можливостей, які приносить штучний інтелект, також пов’язані зі значними ризиками – той, хто контролює модель ШІ, певною мірою контролюватиме мислення світу.

Без усвідомлення того, як працюють ці інтелектуальні інструменти та їхніх налаштувань за замовчуванням, наші рішення та думки можуть мовчазно вплинути. Контролер моделі AI може тонко керувати вибором, думкою та поведінкою людей, встановлюючи конкретні параметри за замовчуванням. Як інфраструктура наступної ери, якщо ШІ буде контролюватися лише кількома бізнес-групами, наслідки можуть бути катастрофічними. Саме на цьому Емад підкреслив важливість і актуальність децентралізованого ШІ.

Кожній країні потрібна своя модель

Коли OpenAI вкладає величезну енергію в проект Super Alignment, хто відповідатиме за узгодження між самим OpenAI і кожною країною, кожною галуззю та кожною культурою світу?

ніхто.

OpenAI докладає великих зусиль щодо базової безпеки та загальнолюдської етики, але чи достатньо таких зусиль з огляду на різноманітність різних країн і культур, які часто мають дуже різні погляди на цінності еліти Кремнієвої долини? кілька значень бути справедливо відображені в моделі AI? Коли такі країни, як Кенія, почнуть використовувати штучний інтелект Кремнієвої долини для навчання наступного покоління студентів у великих масштабах, чи поступово зникнуть їхні унікальні національні культурні особливості?

Відповідь не є оптимістичною. Тому Емад вважає, що в кожній країні, кожній галузі та кожній культурі повинна бути модель штучного інтелекту, яка відображає її власні характеристики. Ці моделі мають бути глибоко вкорінені в місцевому регіоні, повністю поглинаючи та відображаючи колективну мудрість країни, промисловості та культури. Ця концепція повинна бути знайома кожному, оскільки NVIDIA також неодноразово говорила про концепцію суверенного ШІ два місяці тому, що, по суті, є одним і тим же. Однак Емад почав говорити про це з різних приводів ще рік чи два тому, тобто набагато раніше, ніж Nvidia.

Більшість країн світу просто не мають можливості створювати власні моделі штучного інтелекту, і це саме той ринок, на який орієнтується Emad. Він сподівається створити базовий стек для підтримки моделей AI, створених кожною країною, нацією та галуззю. У стеку ми сподіваємося використовувати децентралізовану колективну співпрацю для розробки моделі.

Емад сказав, що він може почати/інкубувати серію компаній, у кожній з яких будуть різні професіонали, які зосереджуватимуться на різних ключових сферах, таких як освіта, медичне обслуговування, фінанси та, звичайно, моделі ШІ для різних країн. Згідно з практикою децентралізованого ШІ, ці компанії відіграють більше ролі ініціаторів. Забезпечуючи базові моделі та стандартизовані рамки, ми можемо залучити таланти спільноти до участі та внеску. Якщо велику кількість видатних талантів з країни можна залучити до внеску, ця колективна мудрість зрештою перетвориться на чудову національну модель.

Основою є дані

Говорячи простою метафорою, рецепт моделі штучного інтелекту — це алгоритми та дані, а потім для їх змішування використовується певна обчислювальна потужність. Наразі більшість команд на ринку шукають кращі алгоритми моделі, отримують більше даних, а потім зіставляють їх із більшою обчислювальною потужністю. Але практика довела, що якщо якість даних висока, чудових результатів можна досягти з меншою кількістю даних. Іншими словами, люди знищують низькоякісні дані, накопичуючи обчислювальну потужність.

Це є перевагою децентралізованої системи ШІ, яку підтримує Emad. Він вважає, що якщо створити структуру, яка скеровуватиме найкращі таланти в країні до спільної участі, можна буде зібрати високоякісні національні набори даних, і в той же час ці дані можна буде перевірити та мати чітке право власності та стимули дані можуть бути розроблені відповідно до моделі.

Таким чином ми можемо збирати дані, які раніше були просто недоступні. Ці дані не тільки якісніші, але й правдивіше та чесніше відображають голоси та потреби громадськості.

Кластер маленьких моделей проти однієї великої моделі

У сфері штучного інтелекту закони масштабування майже стали залізним законом. Незалежно від того, чи ми вирішимо дотримуватися цього чи ні, ми не зможемо його уникнути.

Очевидно, що використання децентралізованого підходу для організації ресурсів, а потім використання закону масштабування для досягнення загального штучного інтелекту (AGI) нереалістично в короткостроковій перспективі. Досить довго орієнтовані на спільноту моделі штучного інтелекту також намагалися конкурувати з такими гігантами, як OpenAI, за корону найпотужнішої моделі.

Однак пошук AGI і створення штучного інтелекту для широкого застосування – це дві різні речі. Оскільки технології продовжують розвиватися, малі та середні моделі, керовані спільнотою, швидко нарощують можливості. Очікується, що протягом року-двох малих і середніх моделей буде достатньо для більшості повсякденних завдань. Можливо, він не найпотужніший, але досить практичний і досить дешевий, щоб відкрити широкий спектр сценаріїв застосування. Так само, як для більшості наших онлайн-покупок не потрібен SF Express для доставки наступного дня, змішане використання моделей поступово стане основним у майбутньому.

Це викликає надзвичайно важливу зміну, коли широко використовуються моделі, керовані колективним інтелектом, потенційні ризики, спричинені однією великою моделлю, контрольованою однією організацією, значно зменшуються. Якщо дані великої моделі виявляються забрудненими, ці моделі, засновані на колективному розумі, можуть легко діяти як калібратори та вносити необхідні виправлення. Йдеться не лише про практичність і економію коштів, а й про гру між колективним інтелектом і AI God.

З технічної точки зору маленькі моделі не є недоліком. Завдяки невеликому розміру їм легше виконувати додаткові тренування, характерні для вертикалі. У цих сферах вони добре працюють як інструменти експертного рівня, хоча їхні загальні можливості можуть бути не такими повними, як у великих моделей. Невеликий кластер моделей, що складається з багатьох експертних моделей, не обов’язково програє в конкуренції з однією великою моделлю.

Що ще важливіше, невелика модель може ефективно сприяти децентралізації розгортання. Коли ми говоримо про децентралізацію, ми маємо на увазі не лише децентралізацію побудови моделі та джерел даних, а й децентралізацію управління та децентралізацію розгортання. Якщо моделі з відкритим вихідним кодом можна легко розгорнути на персональних ноутбуках або навіть мобільних телефонах, це означатиме рівність ШІ. Навіть якщо централізований постачальник послуг вимикає службу, користувачі все одно можуть покладатися на локальний штучний інтелект для продовження роботи. Дозволити людям широко використовувати ШІ без обмежень також є важливою метою децентралізованого ШІ.

AI + Web3 – Брехуни або майбутнє

Безсумнівно, ініціатива децентралізованого штучного інтелекту, яку активно просуває Emad, тісно пов’язана з криптографією. Він заявив, що хоче розробити протокол Web3 для інтеграції та реалізації цих ідей. Це пов’язано з тим, що кілька ключових елементів, яких наразі не вистачає в галузі штучного інтелекту, – можливість перевірки даних, право власності на дані, широкомасштабна координація та механізми стимулювання, а також можливості колективного управління – це саме те, у чому хороша технологія Web3.

Тут я хотів би зупинитися на врядуванні. Тому що ніколи не існувало такої потужної технології, як сьогоднішній штучний інтелект, і вона широко й глибоко вплине на кожен куточок світу. Хто повинен визначити майбутній напрямок цієї технології? Хто може це ефективно контролювати? Управління штучним інтелектом радою директорів кількох компаній, таких як OpenAI, безумовно, не найефективніше рішення. Просте встановлення жорстких кайданів на моделях штучного інтелекту регуляторами не обов’язково може ефективно вирішити проблеми. Колективне управління може бути справжнім рішенням.

У сфері Web3 процвітають експерименти з колективного управління, які охоплюють кілька рівнів, таких як управління даними, управління додатками, управління мережею та організаційне управління. Хоча більшість спроб все ще знаходяться на дослідницькій стадії та зазнали багатьох невдач, це авангард розвитку людського управління.

За останні п’ять років люди в криптопросторі, особливо навколо децентралізованих автономних організацій (DAO), випробували майже всі моделі управління в історії людства. Інноваційна структура OpenAI, за якою некомерційний фонд контролює прибуткову компанію, вже широко використовується в DAO. Мені здається, що люди у світі Web3 протягом останніх кількох років грали в спідран управління. Лише за кілька років люди переосмислили тисячі років людського правління.

Одне з найпоширеніших зауважень полягає в тому, що більшість управління Web3 є лише копією моделі управління, яку люди мали в минулому, а потім додали голосування в мережі. Однак історія говорить нам, що за таких швидких темпів зростання та високої щільності талантів незабаром з’являться абсолютно нові речі.

Менш влучним прикладом є інтернет-реклама. Я пам’ятаю роки, коли Інтернет тільки зароджувався, раптово з’являлася величезна реклама на весь екран, а потім повільно зникала, а веб-сторінка заповнювалася щільними рекламними блоками пам'ять про ранній Інтернет. Оскільки на той час люди не знали, який спосіб просування в Інтернеті є більш ефективним, вони просто перенесли рекламні методи з традиційних ЗМІ в Інтернет. Однак у міру того, як ситуація розвивалася, і люди поглиблювали своє розуміння Інтернет-технологій і культури, незабаром виникла безпрецедентна в історії людства ефективна модель просування, і традиційна реклама була швидко ліквідована в Інтернеті.

На мою думку, управління технологіями також піде шляхом, подібним до Інтернет-реклами. Технологія блокчейн забезпечує значно покращені можливості координації та управління, і я повністю впевнений, що з неї виростуть безпрецедентні в історії людства рішення для колективного управління.

напишіть в кінці

Важко передбачити майбутнє епохи штучного інтелекту і вивчити всі ідеї Емада в даний час, і важко зробити висновок. Очевидно, що його плани стикаються з величезними проблемами на багатьох рівнях. Крім того, у минулому Емад часто перебільшував, і нелегко розрізнити, які його слова можна сприймати серйозно, а які — просто випадкові зауваження.

Однак дослідження структури влади ШІ є раннім, надзвичайно складним і важливим питанням. Емад та інші колеги, які прагнуть до децентралізованого штучного інтелекту, їхні думки та спроби, хоча вони й не близькі до остаточної відповіді, заслуговують достатньої поваги та уваги. Хоча ці дослідження важкі, вони сміливі спроби створити майбутнє. Ці зусилля, незалежно від результатів, стануть розділом історичної епопеї.

Можливо, одного дня світ подякує Емадсу.