Розкриття: Вигляди та думки, висловлені тут, належать виключно автору і не представляють поглядів та думок редакції crypto.news.
Швидкість, з якою ШІ перевищує регулювання, створює ризик для перевірки даних, ідентичності та репутації, і, якщо це не контролювати, може збільшити поширеність дезінформації та уповільнити прогрес наукових інновацій. Хід до суперактивного ШІ представлені його найпалкішими лідерами як рух до наукової золотої епохи. Однак цей тиск збільшує шанси на екзистенційний ризик для нашого суспільства, яке стикається з деградованим технологічним плато, де широкомасштабне впровадження незрілих технологій ШІ обмежується, і з часом, деградує людську творчість та інновації.
Вам також може сподобатися: Голосування ZKP обіцяє розблокувати математично безпечні демократії | Думка
Це суперечливе бачення для більшості акселераціоністів. ШІ повинен підвищити нашу здатність працювати швидше та синтезувати більші обсяги інформації. Однак ШІ не може замінити індуктивне мислення або експериментальний процес. Сьогодні будь-хто може використовувати ШІ для створення наукової гіпотези та використовувати це як вхідні дані для генерації наукової статті. Результати продуктів, таких як Aithor, часто виглядають авторитетно на поверхні і можуть навіть пройти рецензування. Це велика проблема, тому що тексти, згенеровані ШІ, вже курируються як законні наукові знахідки і часто містять фальшиві дані для підтримки своїх тверджень. Існує великий стимул для молодих дослідників використовувати будь-які доступні засоби, щоб конкурувати за обмежену кількість академічних посад і можливостей фінансування. Сучасна система стимулів в академії винагороджує тих, хто може опублікувати найбільшу кількість статей, незалежно від того, чи описують ці статті законні знахідки — їм просто потрібно пройти рецензування та отримати достатню кількість цитувань.
Академічний контент з неперевіреним авторством також стане значною проблемою для галузей, які залежать від базової науки для забезпечення своїх досліджень та розробок, саме тієї НДР, яка підтримує функціонування нашого суспільства та підтримує якість життя зростаючого глобального населення. В результаті, добре фінансовані НДР можуть покладатися тільки на дослідження, які вони можуть виконати та відтворити самостійно, збільшуючи цінність комерційних таємниць і завдаючи руйнівного удару відкритій науці та доступу до значущої інформації.
Дороге відтворення може впоратися з дезінформацією самостійно, однак проблема набагато більша за це. Сьогодні ми стикаємося з ерозією довіри до самих основ знань, де неперевірені твердження та неоднозначні атрибуції підривають наукові досягнення, становлячи загрозу для наукової спільноти. Існує нагальна потреба в створенні економіки, заснованої на правді, для надійної аутентифікації контенту та даних.
Системи ШІ так само потужні, як і дані, на яких вони навчені
Великі мовні моделі є відмінними інструментами для створення переконливого контенту; однак вони настільки інформативні, наскільки дані, на яких вони навчені. Їхня здатність екстраполювати поза навчальним набором досі залишається обмеженою. Роль науки полягає не лише в синтезі існуючих знань, а й у створенні нових інформативних артефактів, які збільшують ентропію колективного корпусу знань, накопиченого людством. З часом, оскільки більше людей використовують ШІ для генерації контенту, а менше людей генерують оригінальний контент, ми зіткнемося з «низькоентропійним розширенням», яке не вводить нову інформацію у світ, а просто комбінує минулі знання. Первинні джерела будуть втрачені, оскільки нові «знання» базуються на самореференційних контенті, згенерованому ШІ, якщо ми не створимо стійкий провенанс та перевірений шар атрибуції в інструментах ШІ, що використовуються для серйозних досліджень.
Ця «лоботомізація» інтелектуальної глибини колективного людського корпусу призведе до тривалих наслідків для медичних, економічних та академічних досліджень, а також для мистецтв і творчих занять. Неперевірені дані можуть впливати на дослідження, спотворюючи результати та призводячи до важливих політичних або технологічних провалів, які підривають авторитет наукових досліджень. Ризики, пов'язані з «наукою», згенерованою ШІ, є багатогранними. Звичайна діяльність нормальної науки зупиниться на суперечках щодо авторства, звинуваченнях у плагіаті та порушеному рецензуванні. Нам потрібно буде витратити більше часу та енергії, щоб впоратися з багатьма наслідками зниження якості та точності наукових досліджень.
ШІ є корисним інструментом для провокування ідей, структурування думок та автоматизації повторювальних завдань; він повинен залишатися доповненням до контенту, створеного людиною, а не заміною. Його не слід використовувати для написання наукових статей, які пропонують оригінальні відкриття, не проводячи роботу, а скоріше як допоміжний засіб для підвищення ефективності та точності зусиль, керованих людиною. Наприклад, ШІ може бути корисним для проведення симуляцій на існуючих даних з уже відомими методами та автоматизації цієї роботи, щоб допомогти виявити нові напрямки досліджень. Однак експериментальний протокол та людська творчість, необхідні для наукового дослідження, не можуть бути легко замінені.
Побудова економіки, заснованої на правді
Економіка, заснована на правді, встановлює рамки з системами та стандартами для забезпечення автентичності, цілісності, прозорості та простежуваності інформації та даних. Вона вирішує необхідність встановлення довіри та перевірюваності в технологічному суспільстві, дозволяючи особам та організаціям покладатися на точність спільних знань. Цінність ґрунтується на правдивості тверджень та автентичності спостережень та первинних джерел. Економіка, заснована на правді, зробить цифрові знання «твердішими» так, як Bitcoin зробив фіатні гроші твердими. Це обіцянка руху децентралізованої науки.
Як ми туди потрапимо? Нам потрібно почати з найважливішого елемента в науковому світі — окремого дослідника та його роботи. Сучасні веб-стандарти для наукової ідентичності сьогодні не відповідають вимогам перевірки вимог з ідентичності та підтвердження роботи. Поточна практика робить дуже легким створення профілю з прийнятною репутацією; рецензії також піддаються ризику через упередженість і змову. Без перевірки метаданих, що супроводжують наукову вимогу, економіку, засновану на правді, для науки не можна встановити.
Поліпшення стандартів академічної ідентичності може початися з простого крос-платформенного входу, підтримуваного технологією перевірки ідентичності, що зберігає конфіденційність. Користувачі повинні мати можливість увійти на будь-який сайт зі своїми обліковими даними, довести автентичність і вибірково розкривати факти про свою репутацію, дані або інших агентів чи користувачів.
Шар ідентичності, який ґрунтується на підтвердженій репутації дослідника, є основою DeSci. Повна наукова економіка на блокчейні дозволить публічну та анонімну участь у масовій онлайн-координації для дослідницької діяльності. Дослідницькі лабораторії та децентралізовані автономні організації можуть створювати системи без дозволів та програми винагород, які не можуть бути обмануті шахрайськими вимогами репутації або ідентичності. Універсальний науковий реєстр, захищений на блокчейні з вимогами ідентичності, забезпечить рамки для автономних організацій, створених для накопичення підтверджених наукових знань та тестування фальсифікованих гіпотез.
Захист майбутнього людського прогресу
Нам потрібно встановити основи правди через прозорість інформації та сувору перевірку, щоб уникнути руйнування довіри в експертних дослідницьких сферах. Шанси на те, що наш колективний прогрес триватиме ще сотні років, відкриваючи наступні наукові революції в матеріалознавстві, біотехнології, нейробіології та науці про складність, залежать від кураторства якісних досліджень та надійних даних. Це стане різницею між майбутнім суспільством, яке буде таким же розвинутим, як ми, порівняно з суспільствами до просвітництва. Інакше ми повинні очікувати, що це буде максимальний рівень нашого розуму як виду, і ми тільки впадемо в дурість. Неясно, чи врятує нас DeSci чи ні, але часу для виправлення помилок залишилося обмаль.
Читати далі: Децентралізована наука модернізує застарілі системи | Думка
Автор: Шейді Ель Дамати
Шейді Ель Дамати є співавтором Фонду Холонім, який шукає рішення для універсального особистісного статусу та безпечного цифрового доступу з децентралізованим протоколом ідентичності, заснованим на магії нульових доказів знань. У 2020 році він створив OpSci, першу організацію децентралізованої науки, або DeSci для короткості. Перед своєю кар'єрою у криптовалюті Шейді отримав ступінь доктора філософії в галузі нейробіології в Університеті Джорджтаун, Вашингтон, округ Колумбія, США.