イーサリアムの共同創設者であるヴィタリック・ブテルティン氏は、OpenAIで進行中のリーダーシップの変更に応えて、「超知能」人工知能（AI）についての見解を共有し、それを「危険」と呼んだ。
コインテレグラフは5月19日、OpenAIの元調整責任者であるヤン・ライケ氏が、同社の中核的な優先事項について経営陣と「限界点」に達したとして辞任したと報じた。
ライケ氏は、OpenAIでは「安全文化とプロセスが派手な製品に後回しにされている」と主張し、多くの人が人工汎用知能（AGI）の開発を指摘している。
AGI は、人間の認知能力と同等かそれを上回るタイプの AI になると予想されていますが、業界の専門家はすでにその考えに不安を感じ始めており、世界はそのような超知能 AI システムを管理する適切な設備を備えていないと述べています。
この感情はブテリン氏の見解と一致しているようだ。X の投稿で、彼はこのテーマに関する現在の考えを共有し、行動を急いだり、試みる人々に抵抗したりすべきではないと強調した。
出典: ヴィタリック・ブテリン
ブテリン氏は、企業の小さな複合体が人間の思考のほとんどを読み取り、仲介できるようになる将来に対する「保険」として、消費者向けハードウェア上で実行されるオープンモデルを強調した。
「こうしたモデルは、破滅のリスクという点でも、企業の誇大妄想や軍隊よりもはるかに低い。」
これは、AIとその能力向上に関する彼の先週の2回目のコメントです。
5月16日、彼はOpenAIのGPT-4モデルがすでにAIモデルの「人間らしさ」を判断するチューリングテストを超えていると主張した。彼は、ほとんどの人間は機械と会話しても理解できないと主張する新たな研究を引用した。
関連：マイクロソフトの新しい「ブラックミラー」リコール機能はあなたの行動をすべて記録する
しかし、ブテリン氏がこうした懸念を表明したのは初めてではない。英国政府も最近、大手テクノロジー企業のAI分野への関与の拡大を精査し、競争と市場支配に関する問題を提起している。
6079 AI のようなグループはすでにインターネット上に出現しており、AI がより民主化され、大手テクノロジー企業に支配されないよう、分散型 AI を推進しています。
出典: 6079.ai
これは、5月14日に共同創設者兼主任科学者のイリヤ・スツケバー氏が辞任を発表し、OpenAIのリーダーシップチームのもう一人の上級メンバーが退任したことに続くものである。
Sutskever 氏は AGI に関する懸念については何も言及しなかった。しかし、X の投稿では、OpenAI が「安全で有益な」AGI を開発するとの自信を表明した。
雑誌：「AIの終末を防ぐためにAI同士を攻撃する」：SF作家デイビッド・ブリン