Дані галузі розділилися щодо спірного каліфорнійського законопроекту про штучний інтелект, який був прийнятий 28 серпня.
Нове законодавство змусить компанії, що займаються штучним інтелектом, запровадити нові протоколи безпеки, включаючи кнопку «аварійної зупинки» для моделей штучного інтелекту.
Закон про безпечні та безпечні інновації для передових моделей штучного інтелекту (SB 1047) був ухвалений Сенатом Каліфорнії 29–9 28 серпня.
Зараз законопроект відправляється на ратифікацію до губернатора Гевіна Ньюсона.
Серед тих, хто підтримав законопроект, був Ілон Маск. Стосовно X він сказав, що це «важка справа», але віддав перевагу законодавству через «потенційний ризик» ШІ.
Джерело: Ілон Маск
Однак не всі технічні діячі переконані однаково. Директор зі стратегії OpenAI Джейсон Квон є одним із тих, хто критикував закон.
Калантія Мей, співзасновник децентралізованої мережі штучного інтелекту Masa, сказала, що вона не підтримує нові правила, припустивши, що вони є результатом невиправданої поспіху із прийняттям законів.
«Такі передчасні правила не тільки витіснять таланти з Каліфорнії; це вижене таланти з Америки», — сказала Мей Cointelegraph. Вона додала:
«Ризик полягає в ймовірній можливості того, що нинішня та запропонована нормативно-правова база Америки стримує зростання індустрії ШІ».
Рахіл Говінджі, генеральний директор децентралізованого проекту штучного інтелекту DecideAI, дотримувався протилежної точки зору.
«Ми виступаємо за законодавство», — сказав Говінджі Cointelegraph.
Говінджі сказав, що DecideAI підтримує функцію блокування, керовану децентралізованою автономною організацією (DAO), саме так вони пропонують демократизувати та децентралізувати аварійну зупинку.
ШІ – це галузь, яка швидко розвивається
Стрімкий характер індустрії штучного інтелекту викликає побоювання щодо її необмеженого розвитку.
У листі від 22 серпня колишні співробітники та інформатори OpenAI попередили: «Розробка передових моделей штучного інтелекту без відповідних заходів безпеки створює передбачуваний ризик катастрофічної шкоди для суспільства».
Але для інших швидкі темпи розвитку штучного інтелекту радше радують, ніж бояться.
Останні: Рішення без проблем: скільки рівнів Ethereum 2 забагато?
«На відміну від інших трансформаційних технологій, швидкість інновацій ШІ не має собі рівних. Конструктори щодня постачають нові продукти, функції та програми», — сказав Мей.
«Ми, будівельники, навіть не знаємо, де стеля ШІ; звідки уряд може знати стелю штучного інтелекту? Встановлювати обмеження для високопотенційних технологій нерозумно».
Мей попередив, що кінцевою ціною цього законодавства буде «вигнання талантів із США», як це «зробилося з криптовалютою».
Ті, хто за
Говінджі пропонує, щоб «контрольований DAO killswitch» міг підтримувати вимоги законодавства, зберігаючи при цьому «колективне та прозоре прийняття рішень».
У законопроекті стверджується, що будь-яка модель штучного інтелекту повинна мати можливість «миттєво здійснити повне відключення», але не містить визначення значення терміну «негайно», залишаючи значний простір для тлумачення.
Наразі невідомо, чи буде модель DAO та її демократична система голосування достатньо швидкою, щоб задовольнити законодавців. Говінджі впевнений, що так і буде. За словами Говінджі, DecideAI «буде попереду в наданні штучного інтелекту, який є суспільним благом».
Фірма зі штучного інтелекту Anthropic також публічно підтримала законопроект.
У відкритому листі до губернатора Ньюсома генеральний директор Anthropic Даріо Амодей сказав: «Системи штучного інтелекту надзвичайно швидко вдосконалюють свої можливості, що пропонує як великі перспективи для економіки Каліфорнії, так і значний ризик [...] Ми вважаємо, що SB 1047, особливо після останніх поправок, ймовірно, це можливий тягар дотримання вимог для таких компаній, як наша, у світлі важливості запобігання катастрофічним зловживанням».
Попередня версія законопроекту передбачала кримінальне покарання для компаній, які не виконували вимог. Після консультацій з промисловістю це положення було зведено лише до цивільних штрафів.
Законопроект SB 1047
Законопроект SB 1047 застосовуватиметься лише до «захищених моделей», а визначення того, на які моделі поширюється дія, змінюється з часом.
Після реалізації охопленою моделлю буде штучний інтелект, розробка якого коштує понад 100 мільйонів доларів, або «модель штучного інтелекту, навчена з використанням обчислювальної потужності, що перевищує 10^26 цілих чисел або операцій з плаваючою комою».
Управління урядових операцій федерального уряду вирішуватиме будь-які зміни порогу обчислювальної потужності.
Останні: п’ять прогнозів криптовалютного ринку, які ще не справдилися
У листі до губернатора Ньюсома Квон з OpenAI стверджував, що законодавство щодо штучного інтелекту має розглядатися лише на федеральному рівні, «а не як набір законів штату».
Враховуючи переважну концентрацію технологічних та штучних компаній у Каліфорнії, SB 1047 може бути де-факто національним законодавством на даний момент.
Ситуація може змінитися, якщо законодавство змусить компанії штучного інтелекту втекти в інші штати, але щоб повністю уникнути SB 1047, компаніям також доведеться припинити всі операції та послуги в Каліфорнії.