Співзасновник Ethereum Віталік Бутерін каже, що тимчасова ‘пауза’ в глобально доступному обчисленні може бути способом ‘купити більше часу для людства’ у разі ймовірно небезпечної форми суперінтелекту ШІ.
У блозі від 5 січня, продовжуючи свій пост листопада 2023 року, що підтримує ідею ‘оборонного прискорення’ або d/acc, Бутерін заявив, що надзвичайно інтелектуальний ШІ може бути всього за п’ять років — і немає ніякої гарантії, що результат буде позитивним.
Бутерін каже, що ‘м’яка пауза’ у виробничому комп’ютерному обладнанні може бути варіантом, щоб уповільнити розвиток ШІ, якщо це станеться — зменшуючи глобальну доступну обчислювальну потужність до 99% протягом 1-2 років ‘щоб купити більше часу для підготовки людства.’
Джерело: Віталік Бутерін
Суперінтелект є теоретичною моделлю ШІ, яка зазвичай визначається як така, що є значно більш інтелектуальною, ніж найрозумніші люди у всіх сферах експертизи.
Багато технічних керівників та дослідників висловили занепокоєння щодо ШІ, з понад 2600 осіб, які закликали у відкритому листі в березні 2023 року зупинити розвиток ШІ через ‘глибокі ризики для суспільства та людства.’
Бутерін зазначив, що його пост, в якому він представляв d/acc, лише робив ‘неясні заклики не будувати ризиковані форми суперінтелекту’ і хотів поділитися своїми думками про те, як вирішити сценарій ‘де ризик ШІ високий.’
Проте, Бутерін зазначив, що він би відстоював ‘м’яку паузу’ в апаратному забезпеченні лише якщо він був би ‘переконаний, що нам потрібно щось більш ‘м’язисте’, ніж правила відповідальності,’ — що означало б, що ті, хто використовує, впроваджує або розробляє ШІ, можуть бути позвані до суду за збитки, завдані моделлю.
Він зазначив, що пропозиції щодо паузи в апаратному забезпеченні включають знаходження місця розташування чіпів ШІ та вимогу їх реєстрації, але запропонував, що промислове обладнання ШІ може бути обладнане чіпом, який дозволяє їй продовжувати працювати лише якщо вона отримує трійку підписів раз на тиждень від основних міжнародних органів.
‘Підписи будуть незалежними від пристроїв (якщо потрібно, ми навіть можемо вимагати нульове знання про те, що вони були опубліковані на блокчейні), тому це буде все або нічого,’ написав Бутерін. ‘Не буде практичного способу уповноважити один пристрій продовжувати працювати без уповноваження всіх інших пристроїв.’
Ідея d/acc, підтримувана Бутеріним, відстоює обережний підхід до розвитку технологій на контрасті з ефективним прискоренням або e/acc, яке виступає за необмежені та безконтрольні технологічні зміни.
AI Око: Непридатний культ зростає навколо мемекойнів, створених штучним інтелектом ‘релігій’