І штучний інтелект, і криптовалюти розвиваються з шаленою швидкістю та є глибоко технічними, тому їх важко регулювати, але викривачів намагаються замовкнути.

Ще один тиждень і ще одне попередження про штучний інтелект.

Але цей відкритий лист, у якому висловлюються побоювання, що він може посилити нерівність, підживити дезінформацію та призвести до неконтрольованих систем штучного інтелекту, які «потенційно призведуть до вимирання людства», — вразив інакше.

чому Оскільки четверо анонімних підписантів є нинішніми співробітниками OpenAI, виробника широко популярного ChatGPT. Колись там працювало ще шестеро.

Той факт, що так багато людей, тісно залучених до поширення штучного інтелекту в масах, побоюються за майбутнє, є важливим. Незважаючи на те, що вони вірять, що ця технологія, що все ще зароджується, може принести «безпрецедентні переваги» людству, вони побоюються, що громадськість — і регулятори — не отримують повної картини.

«Компанії штучного інтелекту володіють значною кількістю непублічної інформації про можливості та обмеження своїх систем, адекватність їхніх захисних заходів та рівні ризику різних видів шкоди. Однак наразі вони мають лише слабкі зобов’язання ділитися частиною цієї інформації з урядами, і жодних з громадянським суспільством. Ми не думаємо, що на них усіх можна покластися, щоб добровільно поділитися цим».

Право на попередження

Паралелі між штучним інтелектом і криптопростором досить разючі. Обидві галузі розвиваються з шаленою швидкістю і є глибоко технічними. Це створює величезні камені спотикання як для урядів, так і для регуляторів. По-перше, деяким політикам може бути складно розібратися в самій проблемі. Просто запитайте представника США Бреда Шермана, який сумнозвісно називав творця біткойна «Саратоші Нагамото». 

https://twitter.com/guti_uno/status/1684383259025883137

Звідси стає важко підготувати грамотні закони, які заохочуватимуть інновації серед хороших акторів і одночасно стримуватимуть злочинність серед поганих. І до того часу, коли влада наздожене згаяне, такі галузі часто стають настільки невпізнанними, що чинне законодавство не відображає реалії того, як використовуються технології… і де криються найбільші ризики. Показово, що в США все ще існує значний регуляторний параліч щодо криптовалют — понад 15 років після першого запуску біткойна.

Як зазначається у відкритому листі, присвяченому штучному інтелекту, відсутність ефективного державного нагляду означає величезну залежність від викривачів у компаніях, щоб притягнути їх до відповідальності. Одне з найбільших занепокоєнь авторів пов’язане з тим, як угоди про конфіденційність ефективно заважають їм говорити.

«Звичайних засобів захисту викривачів недостатньо, оскільки вони зосереджені на незаконній діяльності, тоді як багато ризиків, які нас турбують, ще не врегульовані. Деякі з нас розумно бояться різних форм відплати».

Право на попередження

Знову ж таки, тут існує симетрія між штучним інтелектом і криптографією — про що свідчить нещодавній, глибокий і кричущий звіт, опублікований незалежним експертом, якому було доручено розслідувати аварію FTX у 2022 році. У цьому випадку було виявлено, що шість анонімних інформаторів із законними проблеми були виплачені на суму 25 мільйонів доларів. Одного з них попросили вибачитися перед ув’язненим генеральним директором Семом Бенкманом-Фрідом, і в підсумку він досяг мирової угоди на 16 мільйонів доларів після того, як залишив свою посаду.

Незважаючи на те, що криптоіндустрія досягла багатообіцяючих успіхів у виправленні минулих помилок після низки банкрутств за останні роки, серед яких BlockFi, Voyager і Celsius, ви можете стверджувати, що ще багато роботи. І це робить чотири зобов’язання, які вимагають від компаній ШІ у цьому відкритому листі, особливо застосовними до сектору цифрових активів.

Існує прохання до провідних компаній штучного інтелекту утримуватися від положень, які забороняють критику на адресу співробітників, які стурбовані новими ризиками, а також запровадити анонімні процедури, щоб можна було порушувати занепокоєння радам, регуляторам та експертам. Деяких найбільших суперечок у криптографії можна було б уникнути, якби діяли подібні гарантії.

Окрім культури відкритої критики, керівникам штучного інтелекту необхідно пообіцяти, що вони не будуть мститися працівникам, які розголошують конфіденційну інформацію після того, як вичерпали всі інші можливості для ескалації проблеми.

Незрозуміло, наскільки цей відкритий лист зрушить голку в прагненні регулювати ШІ. І є що сказати про невід’ємну прозорість технології блокчейн, де потік коштів — і записи транзакцій — можна відстежувати в режимі реального часу. Великі мовні моделі, як правило, створені за закритими дверима, набагато непрозоріші порівняно з ними.

Але наслідки бездіяльності та потенційна шкода, з якою стикаються щоденні споживачі, однаково жахливі в обох галузях. Занадто багато криптоінвесторів втратили свої заощадження через те, що вони не були належним чином поінформовані про ризики — через відсутність координації між міжнародними регуляторами, щоб запобігти тому, що зловмисники в офшорах залишаться без контролю. І оскільки штучний інтелект стає розумнішим і інтуїтивно зрозумілішим з кожним днем, тепер під загрозою можуть опинитися і засоби до існування мільйонів працьовитих людей.

Вам також може сподобатися: Kraken і Binance подали до суду на 13 мільярдів доларів. чому