И ИИ, и криптовалюта развиваются с головокружительной скоростью и являются глубоко техническими, что затрудняет их регулирование, но информаторов заставляют замолчать.

Еще одна неделя и еще одно предупреждение об искусственном интеллекте.

Но это открытое письмо, в котором выражаются опасения, что оно может усугубить неравенство, усилить дезинформацию и привести к появлению неконтролируемых систем искусственного интеллекта, которые «потенциально приведут к вымиранию человечества», ударило по-другому.

Почему? Потому что четверо из анонимных подписавшихся являются нынешними сотрудниками OpenAI, создателя широко популярного ChatGPT. Еще шестеро там работали.

Тот факт, что так много людей, непосредственно вовлеченных в внедрение ИИ в массы, боятся за будущее, имеет большое значение. Хотя они верят, что эта все еще зарождающаяся технология может принести человечеству «беспрецедентную пользу», они опасаются, что общественность – и регулирующие органы – не понимают всей картины.

«Компании, занимающиеся искусственным интеллектом, обладают существенной закрытой информацией о возможностях и ограничениях своих систем, адекватности их защитных мер и уровнях риска различных видов вреда. Однако в настоящее время у них есть лишь слабые обязательства по обмену частью этой информации с правительствами, а не с гражданским обществом. Мы не думаем, что можно рассчитывать на то, что они все поделятся этим добровольно».

Право на предупреждение

Параллели между искусственным интеллектом и криптопространством довольно резкие. Обе отрасли развиваются с головокружительной скоростью и являются глубоко техническими. Это создает огромные камни преткновения как для правительств, так и для регулирующих органов. Во-первых, некоторым политикам может быть сложно разобраться в самой проблеме. Просто спросите представителя США Брэда Шермана, который позорно назвал создателя Биткойна «Саратоши Нагамото». 

https://twitter.com/guti_uno/status/1684383259025883137

Отсюда становится трудно подготовить грамотные законы, которые поощряют инновации среди хороших участников и одновременно сдерживают преступность среди плохих. И к тому времени, когда власти это поймут, такие отрасли зачастую станут настолько неузнаваемыми, что рассматриваемое законодательство не сможет отразить реалии того, как используются технологии… и где кроются самые большие риски. Показательно, что в США по-прежнему наблюдается значительный паралич регулирования в отношении криптовалют — спустя более 15 лет после первого запуска Биткойна.

Как отмечается в открытом письме, посвященном ИИ, отсутствие эффективного государственного надзора означает, что существует огромная зависимость от информаторов внутри компаний, которые должны привлечь их к ответственности. Одна из самых больших проблем авторов связана с тем, как соглашения о конфиденциальности эффективно удерживают их от высказываний.

«Обычные меры защиты информаторов недостаточны, поскольку они сосредоточены на незаконной деятельности, тогда как многие из рисков, которые нас беспокоят, еще не регулируются. Некоторые из нас обоснованно опасаются различных форм возмездия».

Право на предупреждение

Опять же, здесь существует симметрия между искусственным интеллектом и криптовалютой — о чем свидетельствует недавний, углубленный и разоблачающий отчет, опубликованный независимым экспертом, которому было поручено расследовать крах FTX в 2022 году. В этом случае было обнаружено, что шесть анонимных информаторов с законными концерны были оплачены на сумму 25 миллионов долларов. Одному из них было приказано извиниться перед ныне находящимся в тюрьме генеральным директором Сэмом Бэнкман-Фридом, и в итоге после ухода со своей должности он достиг соглашения о выплате 16 миллионов долларов.

Хотя криптоиндустрия добилась многообещающих успехов в исправлении прошлых ошибок после множества банкротств в последние годы (в том числе BlockFi, Voyager и Celsius), можно утверждать, что предстоит еще многое сделать. И это делает четыре обязательства, предложенные компаниям, занимающимся искусственным интеллектом, в этом открытом письме, особенно применимыми к сектору цифровых активов.

Ведущим компаниям, занимающимся искусственным интеллектом, предлагается воздержаться от применения положений, которые запрещают критику обслуживать сотрудников, обеспокоенных возникающими рисками, а также ввести анонимные процедуры, чтобы можно было сообщить о проблемах советам директоров, регулирующим органам и экспертам. Некоторых крупнейших споров в сфере криптовалют можно было бы избежать, если бы были приняты аналогичные меры защиты.

Помимо принятия культуры открытой критики, лидерам ИИ предлагается поклясться, что они не будут мстить работникам, которые разглашают конфиденциальную информацию после исчерпания всех других возможностей обострить проблему.

Неясно, насколько это открытое письмо повлияет на усилия по регулированию ИИ. И есть что сказать о присущей технологии блокчейна прозрачности, где потоки средств и записи транзакций можно отслеживать в режиме реального времени. Большие языковые модели, обычно создаваемые за закрытыми дверями, по сравнению с ними гораздо более непрозрачны.

Но последствия бездействия и потенциальный вред, с которым сталкиваются повседневные потребители, одинаково ужасны в обеих отраслях. Слишком много криптоинвесторов потеряли свои сбережения из-за того, что они не были должным образом проинформированы о рисках — из-за отсутствия координации между международными регуляторами, чтобы не допустить, чтобы оффшорные злоумышленники оставались бесконтрольными. И поскольку с каждым днем ​​ИИ становится все умнее и интуитивно понятнее пользователю, теперь средства к существованию миллионов трудолюбивых людей также могут оказаться под угрозой.

Вам также может быть интересно: Kraken и Binance подали в суд на 13 миллиардов долларов. Почему?