AIと暗号通貨はどちらも猛スピードで進化しており、高度な技術を要するため規制が困難だが、内部告発者は沈黙させられている。

新たな一週間、そして人工知能に関する新たな警告。

しかし、この公開書簡は、不平等を悪化させ、誤報を助長し、「人類絶滅につながる可能性がある」制御不能なAIシステムにつながる恐れがあるとの懸念を表明しており、衝撃は違ったものとなった。

なぜか？匿名の署名者のうち 4 人は、広く普及している ChatGPT の開発元である OpenAI の現従業員である。他の 6 人は以前そこで働いていた。

AI を一般大衆に普及させることに深く関わっている多くの人々が将来を不安に思っているという事実は重大だ。彼らは、このまだ初期段階の技術が人類に「前例のない利益」をもたらす可能性があると信じているが、一般大衆や規制当局が全体像を把握していないのではないかと懸念している。

「AI企業は、自社のシステムの能力と限界、保護対策の妥当性、さまざまな種類の危害のリスクレベルに関する膨大な非公開情報を保有しています。しかし、現時点では、これらの情報の一部を政府と共有する義務はわずかであり、民間社会と共有する義務はありません。すべての企業が自発的に情報を共有するとは考えられません。」

警告する権利

人工知能と暗号通貨業界の類似点は非常に顕著です。どちらの業界も猛スピードで動いており、非常に技術的です。これは政府や規制当局にとって大きな障害となります。まず、政治家の中には、この問題自体を理解するのが難しいと感じる人もいます。ビットコインの生みの親を「サラトシ・ナガモト」と呼んだことで悪名高い米国下院議員ブラッド・シャーマンに聞いてみてください。

https://twitter.com/guti_uno/status/1684383259025883137

ここから、善良な行為者のイノベーションを奨励し、悪者の犯罪を抑止する、読みやすい法律を準備することが難しくなります。そして、当局が追いつく頃には、そのような業界はあまりにも認識できないことが多く、議題に上がる法律は、テクノロジーがどのように使用されているか、そして最大のリスクがどこにあるのかという現実を反映していません。ビットコインが最初に発売されてから15年以上経った今でも、米国では暗号通貨に関する規制が依然としてかなり麻痺していることは、示唆に富んでいます。

AIに焦点を当てた公開書簡が指摘しているように、効果的な政府の監視が欠如しているため、企業に責任を負わせるには企業内の内部告発者に大きく依存している。著者らの最大の懸念の1つは、秘密保持契約によって事実上、告発が封じられていることに関するものだ。

「通常の内部告発者保護は、違法行為に焦点を当てているため不十分です。一方、私たちが懸念しているリスクの多くはまだ規制されていません。私たちの中には、さまざまな形の報復を当然ながら恐れている人もいます。」

警告する権利

ここでも、人工知能と暗号通貨の間には対称性が存在する。これは、2022年にFTXの崩壊を調査する任務を負った独立調査官が最近発表した詳細かつ厳しい報告書からも明らかだ。その事件では、正当な懸念を抱いた匿名の内部告発者6名に2,500万ドルが支払われたことが判明した。1人は、現在投獄されているCEOサム・バンクマン・フリードに謝罪するよう命じられ、役職を辞任した後、最終的に1,600万ドルで和解に達した。

近年のBlockFi、Voyager、Celsiusなどの一連の倒産の後、仮想通貨業界は過去の過ちを正すために前向きな進歩を遂げてきたが、まだやるべきことはたくさんあると主張することもできる。そのため、この公開書簡でAI企業に求められている4つの約束は、デジタル資産セクターに特に当てはまる。

大手人工知能企業に対し、新たなリスクを懸念する従業員への批判を禁じる条項の施行を控えるよう、また、懸念事項を役員会、規制当局、専門家に提起できるよう匿名手続きを導入するよう要請が出ている。同様の安全策が講じられていれば、仮想通貨をめぐる最大の論争のいくつかは避けられたかもしれない。

また、オープンな批判の文化を受け入れることに加え、問題をエスカレートさせるあらゆる可能性を尽くした後に機密情報を漏らした従業員に対して報復しないことを誓うよう、AI のリーダーたちに求められています。

この公開書簡が AI 規制の取り組みにどの程度影響を与えるかは不明だ。また、資金の流れや取引記録をリアルタイムで監視できるブロックチェーン技術の本質的な透明性には一理ある。それに比べると、通常は密室で構築される大規模な言語モデルははるかに不透明だ。

しかし、行動を怠った場合の結果と、一般消費者が直面する潜在的な損害は、どちらの業界でも同様に悲惨です。リスクについて十分な情報を得ていなかったために、多くの仮想通貨投資家が老後の蓄えを失っています。海外の悪質な行為者が野放しになるのを防ぐための国際規制当局間の調整が不十分だったためです。そして、AI が日々賢くなり、ユーザーにとってより直感的になるにつれて、今では何百万人もの勤勉な人々の生活も危険にさらされる可能性があります。

こちらもおすすめ: Kraken と Binance が 130 億ドルで訴えられる。その理由は?