IBM нещодавно запустила новий «Lightweight Engine» для свого сервісу WatsonX.ai. Хоча він в основному призначений для «підприємства», він може слугувати платформою для безпечного внутрішнього розгортання генеративного штучного інтелекту для невеликих компаній, які прагнуть до масштабування, або для компаній середнього розміру в таких галузях, як фінтех.
Ринок генеративного штучного інтелекту, безсумнівно, є головним каталізатором зростання доходів технологічного сектору в першій половині 2024 року. Лише десять років тому мало хто міг передбачити величезний розмір і охоплення сектора, головним чином завдяки вибуховій популярності великих мов. такі моделі, як ChatGPT від OpenAI і Claude від Anthropic.
Генеративний ШІ у фінансових послугах
До запуску ChatGPT експерти зі штучного інтелекту та фінансів широко відзначали, що великі мовні моделі, такі як GPT-3, просто недостатньо надійні чи точні для використання у світі фінансів чи де-небудь ще, де немає права на помилку.
Незважаючи на прогрес у цій галузі з моменту появи ChatGPT у 2023 році, те саме прислів’я залишається в силі: моделі штучного інтелекту, навчені для загального використання на загальнодоступних даних, такі ж непередбачувані, як і інформація, на якій їх навчають. Для того, щоб генеративна модель штучного інтелекту була не просто чат-ботом, який може виконувати деякі функції кодування, моделі повинні бути спеціалізованими.
Наприклад, компанія JP Morgan Chase нещодавно придбала корпоративний доступ до ChatGPT OpenAI для всієї своєї робочої сили з 60 000 співробітників, що включає точне налаштування внутрішніх даних і індивідуальні огорожі. Зрозуміло, що навіть індустрія фінансових послуг сідає на борт генеративного ШІ-потяга.
Крім чат-ботів
Хоча багато популярних загальнодоступних служб штучного інтелекту, таких як ChatGPT, пропонують опції корпоративного рівня, вони, як правило, повністю базуються на хмарі. У галузях, де нормативні та фідуціарні обов’язки вимагають, щоб певні типи даних були ізольовані від можливого зовнішнього маніпулювання, наприклад у галузях фінансових технологій і фінансових послуг, хмарні рішення ШІ можуть не відповідати вимогам безпеки.
WatsonX.ai від IBM працює як з хмарними, так і з локальними рішеннями, а завдяки доповненню Lightweight Engine моделі можна запускати та розгортати на місці з меншою площею.
Cointelegraph запитав IBM про програми служби, і Савіо Родрігес, віце-президент компанії з екосистемної інженерії та захисту розробників, сказав нам:
«Оскільки компанії додають локальну платформу, вони хочуть мати найлегшу платформу для розгортання та запуску генеративних варіантів використання штучного інтелекту, щоб вони не витрачали процесори чи графічні процесори. Саме тут на допомогу приходить полегшений двигун watsonx.ai, який дає змогу незалежним розробникам програмного забезпечення та розробникам масштабувати корпоративні рішення GenAI, оптимізуючи витрати».
У фінтех та інших галузях, що розвиваються, таких як майнінг, блокчейн і криптокредитування, де сторонні рішення штучного інтелекту можуть не відповідати всім потребам безпеки компанії, гнучкість хмарного та локального рішення може означати різниця між розробкою та розгортанням моделей усередині компанії або підпискою на рішення іншої фірми.
Однак існує низка конкуруючих служб із компаніями, починаючи від Microsoft, Google і Amazon, аж до стартапів, які зосереджені на розробці індивідуальних рішень ШІ, що надають подібні послуги.
Хоча безпосереднє порівняння служб виходить за рамки цієї статті, полегшений механізм IBM виправдовує свою назву. Його зменшена площа та підвищена ефективність досягаються ціною втрати деяких функцій, доступних лише у версії повної ваги.
За темою: Apple використовувала чіпи Google, щоб навчити свій штучний інтелект — що з Nvidia?