Штучний інтелект (ШІ) революціонізує різні сектори, розширюючи можливості обробки даних і прийняття рішень поза межами людських можливостей. Однак у міру того, як системи штучного інтелекту стають все більш складними, вони стають все більш непрозорими, що викликає занепокоєння щодо прозорості, довіри та справедливості.
Природа «чорної скриньки», типова для більшості систем ШІ, часто змушує зацікавлених сторін сумніватися в походженні та надійності результатів, створених ШІ. У відповідь на це з’явилися такі технології, як Explainable AI (XAI), які намагаються демістифікувати операції штучного інтелекту, хоча їм часто не вдається повністю прояснити його складність.
У той час як складнощі штучного інтелекту продовжують розвиватися, зростає також потреба в надійних механізмах, щоб забезпечити не тільки ефективність цих систем, але й надійність і справедливість. Ознайомтеся з технологією блокчейн, відомою своєю ключовою роллю в підвищенні безпеки та прозорості завдяки децентралізованому веденню записів.
Блокчейн має потенціал не лише для захисту фінансових транзакцій, але й для наповнення операцій штучного інтелекту рівнем верифікації, якого раніше було важко досягти. Він має потенціал для вирішення деяких найбільш постійних проблем штучного інтелекту, таких як цілісність даних і відстеження рішень, що робить його критичним компонентом у пошуках прозорих і надійних систем ШІ.
Кріс Фенг, головний операційний директор Chainbase, запропонував своє бачення цього питання в інтерв’ю crypto.news. За словами Фенга, хоча інтеграція блокчейнів не може напряму вирішити всі аспекти прозорості ШІ, вона покращує кілька критичних областей.
Чи може технологія блокчейн справді підвищити прозорість систем ШІ?
Технологія блокчейн не вирішує основну проблему пояснюваності в моделях ШІ. Дуже важливо розрізняти інтерпретативність і прозорість. Основна причина відсутності пояснення в моделях штучного інтелекту полягає в природі глибоких нейронних мереж як чорного ящика. Хоча ми розуміємо процес логічного висновку, ми не розуміємо логічного значення кожного залученого параметра.
Отже, як технологія блокчейну підвищує прозорість способами, які відрізняються від покращень інтерпретації, які пропонують такі технології, як Explainable AI (XAI) від IBM?
У контексті пояснюваного штучного інтелекту (XAI) різні методи, такі як статистика невизначеності або аналіз результатів і градієнтів моделей, використовуються для розуміння їх функціональності. Інтеграція технології блокчейн, однак, не змінює внутрішнього мислення та методів навчання моделей AI і, таким чином, не покращує їх інтерпретацію. Тим не менш, блокчейн може покращити прозорість навчальних даних, процедур і причинно-наслідкового висновку. Наприклад, технологія блокчейн дозволяє відстежувати дані, які використовуються для навчання моделей, і включає внесок спільноти в процеси прийняття рішень. Усі ці дані та процедури можуть бути безпечно записані в блокчейні, тим самим підвищуючи прозорість як процесів побудови, так і процесів висновку моделей ШІ.
Беручи до уваги поширену проблему упередженості в алгоритмах штучного інтелекту, наскільки ефективним є блокчейн у забезпеченні походження та цілісності даних протягом життєвого циклу штучного інтелекту?
Сучасні методології блокчейну продемонстрували значний потенціал у безпечному зберіганні та наданні навчальних даних для моделей ШІ. Використання розподілених вузлів підвищує конфіденційність і безпеку. Наприклад, Bittensor використовує підхід розподіленого навчання, який розподіляє дані між кількома вузлами та реалізує алгоритми для запобігання обману між вузлами, тим самим підвищуючи стійкість розподіленого навчання моделі ШІ. Крім того, захист даних користувача під час висновків має першочергове значення. Ритуал, наприклад, шифрує дані перед тим, як розповсюджувати їх на вузли поза мережею для обчислень висновків.
Вам також може сподобатися: Штучний інтелект може додати новий вимір крипто-злочинам, каже Elliptic
Чи є якісь обмеження для цього підходу?
Помітним обмеженням є недогляд за зміщенням моделі, що випливає з даних навчання. Зокрема, виявлення упереджень у прогнозах моделі, пов’язаних із статтю чи расою, що є результатом тренувальних даних, часто нехтується. Наразі ані технології блокчейну, ані методи усунення зміщень моделей штучного інтелекту не дозволяють ефективно націлювати та усувати зміщення за допомогою методів пояснення чи усунення зміщень.
Як ви вважаєте, чи може блокчейн підвищити прозорість етапів перевірки та тестування моделі ШІ?
Такі компанії, як Bittensor, Ritual і Santiment, використовують технологію блокчейн для з’єднання інтелектуальних контрактів у ланцюзі з обчислювальними можливостями поза мережею. Ця інтеграція забезпечує логічний висновок, забезпечуючи прозорість даних, моделей і обчислювальної потужності, тим самим підвищуючи загальну прозорість у всьому процесі.
Які механізми консенсусу, на вашу думку, найкраще підходять для блокчейн-мереж для перевірки рішень ШІ?
Я особисто виступаю за інтеграцію механізмів Proof of Stake (PoS) і Proof of Authority (PoA). На відміну від звичайних розподілених обчислень, навчання штучного інтелекту та процеси логічного висновку вимагають послідовних і стабільних ресурсів GPU протягом тривалих періодів часу. Отже, необхідно перевірити ефективність і надійність цих вузлів. Наразі надійні обчислювальні ресурси в основному розміщуються в центрах обробки даних різного масштабу, оскільки графічні процесори споживчого рівня можуть недостатньо підтримувати служби ШІ в блокчейні.
Заглядаючи вперед, які креативні підходи чи досягнення в технології блокчейн, на вашу думку, будуть критично важливими для подолання поточних проблем прозорості ШІ, і як вони можуть змінити ландшафт довіри та підзвітності ШІ?
Я бачу кілька проблем у поточних додатках штучного інтелекту на основі блокчейну, таких як вирішення взаємозв’язку між усуненням упереджень моделі та даними та використання технології блокчейну для виявлення та пом’якшення атак «чорної скриньки». Я активно досліджую способи заохочення спільноти до проведення експериментів щодо інтерпретабельності моделей і підвищення прозорості моделей ШІ. Крім того, я розмірковую над тим, як блокчейн може сприяти перетворенню ШІ на справжнє суспільне благо. Суспільні блага визначаються прозорістю, соціальною вигодою та служінням суспільним інтересам. Однак сучасні технології ШІ часто існують між експериментальними проектами та комерційними продуктами. Використовуючи мережу блокчейн, яка стимулює та розподіляє цінності, ми можемо каталізувати демократизацію, доступність і децентралізацію ШІ. Цей підхід міг би потенційно досягти прозорості виконуваних програм і підвищити надійність систем ШІ.
Докладніше: Binance використовує штучний інтелект (ШІ) для покращення навчання web3