#opg $OPG Розмова про ШІ зазвичай зосереджена на моделях.
Більших моделях. Швидших моделях. Розумніших моделях.
Але я думаю, що одне з найцікавіших питань лежить під усім цим:
Звідки насправді походить інтелект ШІ?
Кожна система ШІ вчиться з чогось. Статті, форуми, наукові роботи, код, зображення, публічні обговорення та мільярди шматків інформації, які люди ділилися протягом багатьох років. В певному сенсі, сучасний ШІ побудований на величезному шарі колективних знань людства.
Дивна частина полягає в тому, що після навчання моделі більшість цих внесків стають невидимими.
Система може генерувати відповіді, створювати контент і приносити цінність, але відстежити цю цінність назад до людей та інформації, які допомогли її сформувати, майже неможливо. Ми отримуємо інтелект, але дуже мало видимості щодо того, звідки він походить.
Це створює важливий виклик для майбутнього ШІ.
Оскільки ці системи стають потужнішими, прозорість може стати такою ж важливою, як і можливості. Недостатньо, щоб модель ШІ була корисною. Люди все більше запитуватимуть, чи можна перевірити її результати, чи можна зрозуміти джерела та чи можуть бути визнані учасники якимось значущим чином.
Звісно, атрибуція не є простим завданням. Людські знання є багатошаровими та взаємопов'язаними. Одна ідея базується на іншій, потім на ще одній. Жодна система не зможе ідеально виміряти кожен внесок.
Проте, рухатися в бік більш відкритого і підзвітного
інтелекту відчувається як правильний напрямок.
Наступна фаза ШІ може бути визначена не лише тим, хто побудує найбільшу модель.
Вона може бути визначена тим, хто побудує найбільш надійну екосистему навколо неї.
Бо в довгостроковій перспективі, інтелект без прозорості викликає запитання.
Інтелект з прозорістю викликає впевненість.
І ця різниця може виявитися важливішою, ніж люди усвідомлюють сьогодні.
#AI #OpenIntelligence #TransparencyMatters #OPG