ヴィタリック：AGI と ASI に対する恐れ、人類のために知能を強化するツールを構築することを支持し、スーパーインテリジェンス生命を創造することには反対

ChainCatcher のメッセージ、OpenAI および AI 分野の最近の AGI 関連製品の動向について、イーサリアム創設者のヴィタリック・ブテリンは X プラットフォームにおいて、「私の AGI（汎用人工知能）の定義は、十分に強力な人工知能であり、もしある日すべての人類が突然消え、その AI がロボットの身体にアップロードされた場合、それは独立して文明を継続できるということです。」と述べています。

明らかに、これは非常に測定が難しい定義ですが、私はこれが多くの人々の心の中にある「私たちが慣れている AI」と「AGI」の間の直観的な違いの核心であると思います。それは、人間の入力に依存し続けるツールから、自己充足型の生命形態への変化を示しています。 ASI（スーパー人工知能）はまったく別の問題であり、私の定義は、人類が生産性において価値を生み出さなくなったとき（ちょうどチェスのゲームで、私たちは実際に過去10年でこのポイントに達したのです。）です。

はい、ASI は私を恐れさせます — 私が定義する AGI さえも恐れさせます、なぜならそれは明らかに制御不能のリスクをもたらすからです。私は、私たちの仕事を人類のために知能を強化するツールを構築することに集中すべきであり、スーパーインテリジェンス生命体を構築することに集中すべきではないと支持しています。