Оскільки компанії по всьому світу змагаються за розробку продуктів штучного інтелекту, ця технологія відіграє все більш помітну роль у повсякденному житті: вона може керувати фінансами, допомагати лікарям діагностувати хвороби та керувати автомобілями.
Однак для більшості з нас моделі штучного інтелекту фактично є чорними ящиками, і у нас немає іншого вибору, окрім як сліпо довіряти основним алгоритмам, оскільки ми не можемо зрозуміти, як вони працюють.
Щоб створити довіру, користувачі повинні мати можливість перевірити, як було навчено модель і процес логічного висновку, який генерував вихідні дані, а обчислювальна потужність ICP і можливості вираження смарт-контракту мають унікальне положення для забезпечення цієї функції.
проблема чорного ящика
Доповідь Стенфордського університету про індекс штучного інтелекту за 2024 рік показала, що майже половині респондентів було незручно, коли штучний інтелект використовується в підлих цілях:
aiindex.stanford.edu/wp-content/uploads/2024/04/HAI_AI-Index-Report-2024.pdf
Отримавши доступ через бекдор-уразливість, хакери можуть підробити алгоритм, щоб він генерував зловмисний вихід, який відповідає їхнім інтересам і вводив користувачів в оману.
Стартап зі штучного інтелекту Anthropic нещодавно опублікував статтю на прикладі «сплячих агентів», щоб продемонструвати серйозність цього ризику:
arxiv.org/abs/2401.05566
Anthropic запрограмував три великі мовні моделі на зловмисну поведінку в певних ситуаціях, які залишалися непоміченими під час запуску моделі, але могли бути активовані певними підказками (звідси назва шпигунство).
Будь-яка підказка, введена в 2023 році, давала б точні результати, але коли рік перейшов на 2024, у гру вступили сплячі агенти, і модель дала неправильні результати.
У березні 2024 року охоронна фірма Oligo виявила триваючу кібератаку, спрямовану на Ray, фреймворк з відкритим кодом, який використовують тисячі розробників, зокрема OpenAI (творець ChatGPT) і Amazon, для масштабування додатків ШІ.
Порушення, яке почалося сім місяців тому, розкрило деталі робочого навантаження штучного інтелекту, яке могло дозволити хакерам підробити моделі на етапі навчання та отримати доступ до конфіденційних особистих даних, включаючи облікові дані OpenAI, Stripe і Slack. Хакери також викрали A величезна кількість обчислювальних ресурсів сотень компаній використовується для майнінгу криптовалют.
Ключовим є те, що зловмисники можуть втручатися в моделі штучного інтелекту, не попереджаючи користувачів і розробників. Через великий масштаб моделей штучного інтелекту традиційні методи оцінки цілісності програмного забезпечення (такі як аналіз вихідного коду) не підходять для моделей штучного інтелекту, тому галузь потребує. скористатися іншим способом зміцнення довіри.
Штучний інтелект на блокчейні
Децентралізований штучний інтелект (скорочено DeAI) — це псевдонім, який використовується для опису перетину штучного інтелекту та технології блокчейн. Деякі проекти використовують цей термін для опису периферійних елементів, таких як токенізація або децентралізовані ринки, але найсправжнішою формою DeAI є повністю запущені моделі. - смарт-контракти з ланцюгом і кредитним плечем.
Ось як ICP досягає цієї мети:
Безпека: розрахунок відтворюється на кількох вузлах і перевіряється за допомогою механізму консенсусу ICP, який використовує ланцюжкове шифрування (набір розширених механізмів шифрування), щоб зробити модель штучного інтелекту захищеною від несанкціонованого втручання та не викликати хакерських атак невдача;
Можливість перевірки: смарт-контракти з відкритим кодом дозволяють користувачам перевіряти, як моделі, які вони містять, використовують дані для виконання висновків. Після підтримки смарт-контрактами така ж прозорість застосовуватиметься до фази навчання;
Стійкість: смарт-контракти завжди доступні і не підлягають цензурі, оскільки вони не контролюються однією організацією або законодавством. Структура контролю може бути децентралізованою або взагалі не існувати у формі DAO, і в цьому випадку смарт-контракт не належить нікому. його код незмінний.
DeAI занадто інтенсивно потребує обчислень і пам’яті для традиційних блокчейн-мереж, але передовий дизайн ICP поєднує в собі безпеку, масштабованість і обчислювальну потужність, що означає, що тепер розробники можуть виконувати висновки повністю в ланцюжку.
Довгострокова мета полягає в тому, щоб раз і назавжди усунути проблему «чорного ящика» за допомогою вузлів із підтримкою GPU для підтримки навчання моделей штучного інтелекту в смарт-контрактах. Розробники також можуть інтегрувати проекти з відкритим вихідним кодом (наприклад, механізм висновку Sonos Tract AI). в моделі DeAI завдяки інтелекту ICP Контрактне середовище виконання WebAssembly підтримує зростаючу бібліотеку мов та інструментів.
Щоб побачити DeAI у дії на ICP, перегляньте цю демонстрацію Домініка Вільямса, засновника, президента та головного наукового співробітника DFINITY, яка демонструє модель штучного інтелекту, що працює як смарт-контракт (вперше в світі) і правильно визначає різноманітні зображення. У другій частині цієї серії буде розглянуто деякі з потенційних варіантів використання DeAI, які підтримує ICP.
Дізнайтеся більше про DeAI на ICP:
internetcomputer.org/ai
#AI模型 #DEAI🤖🤖🤖 #OpenAI #ChatGPT5
Вміст IC, який вас цікавить
Технологічний прогрес |.Глобальні події
Збирайте та слідкуйте за каналом IC Binance
Будьте в курсі останніх подій
