開示: ここで表明された見解や意見は著者にのみ帰属し、crypto.newsの編集部の見解や意見を代表するものではありません。
AIが規制を超えて成長する速度は、データ、アイデンティティ、評判の検証にリスクをもたらし、放置されると誤情報の蔓延を増加させ、科学的革新の進展を遅らせる可能性があります。超知能AIに向かう行進は、その最も熱心なリーダーによって科学的黄金時代への推進として表現されています。しかし、この推進は、私たちの社会が成熟していないAI技術の大規模な採用を制限し、時間の経過とともに人間の創造性と革新を損なう劣化技術の高原に達する存在的リスクの可能性を高めます。
あなたにもおすすめ: ZKP投票は数学的に安全な民主主義を解放する約束 | 意見
これはほとんどの加速主義者に対する矛盾した見解です。AIは私たちの作業をより速く行い、より多くの情報を統合する能力を高めることを意図しています。しかし、AIは帰納的推論や実験プロセスを置き換えることはできません。今日、誰でもAIを使用して科学的仮説を製造し、それを科学論文を生成するための入力として使用できます。Aithorのような製品の結果は、表面的には権威あるものに見え、査読を通過することさえあります。これは大きな問題です。なぜなら、AIが生成したテキストはすでに正当な科学的発見としてキュレーションされており、しばしばその主張を支持するために偽のデータを含んでいるからです。若い研究者が限られた数の学術職と資金機会を競うために利用できる手段を使用する大きなインセンティブがあります。現在の学界のインセンティブシステムは、正当な発見を説明するかどうかに関係なく、最も多くの論文を発表できる人に報酬を与えます。彼らは査読を通過し、十分な引用を得る必要があるだけです。
検証されていない著作権のある学術コンテンツは、研究と開発の基礎科学に依存する産業にとって重要な問題を引き起こします。このR&Dは、私たちの社会を機能させ、世界的な人口の生活の質を維持するものです。その結果、十分な資金を持つR&Dは、自らが実施し、複製できる研究のみを信頼し、トレードシークレットの価値を高め、オープンサイエンスと有意義な情報へのアクセスに壊滅的な打撃を与えます。
高価な複製努力は誤情報に対処することができますが、問題はそれよりもはるかに大きいです。今日、私たちは知識の基盤に対する信頼の侵食に直面しており、検証不可能な主張やあいまいな帰属が科学的進歩を損ない、科学コミュニティに脅威を与えています。コンテンツとデータを信頼性高く認証するために、真実に基づく経済を確立する必要があります。
AIシステムは、それが訓練されたデータと同じくらい強力です。
大規模言語モデルは説得力のあるコンテンツを生成するための優れたツールですが、訓練されたデータと同じくらい情報を提供するものです。トレーニングセットの外に外挿する能力は依然として限られています。科学の役割は、既存の知識を統合するだけでなく、人類が蓄積した知識の集合体のエントロピーを増加させる新しい情報的なアーティファクトを創造することです。時間が経つにつれて、より多くの人がAIを使用してコンテンツを生成し、オリジナルのコンテンツを生成する人が減ると、私たちは新しい情報を世界に導入するのではなく、過去の知識を再組み合わせる「低エントロピーの膨張」に直面することになります。真の情報源は失われ、新しい「知識」は自己参照的なAI生成コンテンツに基づくことになります。真剣な研究のために使用されるAIツールには、強固な系譜と検証された帰属のレイヤーを構築する必要があります。
この「ロボトミー」は、医学、経済、学術研究、芸術、創造的追求に持続的な影響を及ぼします。検証されていないデータは研究に影響を与え、結果を歪め、科学研究の権威を侵食する重要な政策や技術の失敗を引き起こす可能性があります。AI生成の「科学」のリスクは多岐にわたります。通常の科学の平凡な運営は、著作権に関する議論、盗作の疑惑、査読の障害に停滞します。私たちは、科学研究の質と正確性の低下による多くの結果に対処するために、より多くの時間とエネルギーを費やす必要があります。
AIはアイデアを引き出し、思考を構造化し、反復的な作業を自動化するための有用なツールですが、人間が作成したコンテンツの補完にとどまり、代替にはならないべきです。新しい発見を提案する科学論文を著作するために使用されるべきではなく、人間主導の努力の効率と正確性を高めるための助けとして使用されるべきです。たとえば、AIは既存のデータに基づいて既知の方法でシミュレーションを実行し、この作業を自動化して新しい研究方向を発見するのに役立つことができます。しかし、科学的探求に必要な実験プロトコルと人間の創造性は簡単には置き換えられません。
真実に基づく経済の構築
真実に基づく経済は、情報とデータの信頼性、完全性、透明性、追跡可能性を確保するためのシステムと基準を確立します。これは、技術社会全体で信頼と検証可能性を確立する必要に対処し、個人や組織が共有知識の正確性に依存できるようにします。価値は主張の真実性と観察や一次情報の信憑性に根ざしています。真実に基づく経済は、ビットコインが法定通貨を堅固にしたように、デジタル知識を「堅い」ものにします。これが分散型科学運動の約束です。
どうすればそこに到達できるでしょうか？私たちは科学界で最も重要な要素、個々の研究者とその仕事から始める必要があります。今日の科学的アイデンティティのための現在のウェブ標準は、アイデンティティと作業の証明に関する主張を検証することにおいて不十分です。現在の実践では、通過可能な評判を持つプロフィールを容易に製造できます。査読もバイアスや共謀により危険にさらされています。科学的主張に付随するメタデータの検証がなければ、科学のための真実に基づく経済は確立できません。
学術的アイデンティティ基準の改善は、プライバシーを保護するアイデンティティ検証技術によって支えられたシンプルなクロスプラットフォームのログインから始めることができます。ユーザーは自分の資格情報で任意のサイトにサインインし、信頼性を証明し、評判、データ、または他のエージェントまたはユーザーに関する事実を選択的に開示できる必要があります。
検証可能な研究者の評判に根ざしたアイデンティティレイヤーは、DeSciの基本的な基盤です。完全なオンチェーンの科学経済は、研究活動のための大規模なオンライン協調において、公的かつ匿名の参加を可能にします。研究所や分散型自律組織は、詐欺的な評判やアイデンティティの主張によってゲーム化されることのない無許可システムや賞金プログラムを作成できます。アイデンティティの主張でブロックチェーン上に確保された普遍的な科学登録は、検証可能な科学的知識を蓄積し、反証可能な仮説をテストするために構築された自律組織の枠組みを提供します。
人類の進歩の未来を守る
情報の透明性と厳格な検証を通じて真実の基盤を確立する必要があります。そうしないと、専門的な研究分野内での信頼の崩壊を避けられません。私たちの集団的な進歩が数百年にわたり続く可能性は、材料科学、生物工学、神経科学、複雑性科学における連続的な科学革命を解き放つことにかかっています。これは、私たちが現在のように先進的な未来社会と啓蒙前の社会との違いになります。さもなければ、私たちはこの種としての知性がこれ以上進まないことを期待せざるを得ず、ただ愚かになるだけです。DeSciが私たちを救うかどうかは不明ですが、物事を正しくするための限られた時間があります。
続きを読む: 分散型科学が時代遅れのシステムを現代化しています | 意見
著者: シャディ・エル・ダマティ
シャディ・エル・ダマティはホロニム財団の共同創設者であり、ゼロ知識証明の魔法に基づいた分散型アイデンティティプロトコルによる普遍的な人権と安全なデジタルアクセスの解決策を求めています。2020年に彼は、最初の分散型科学組織であるOpSciを設立しました。その前に、シャディはアメリカ合衆国ワシントンD.C.のジョージタウン大学で神経科学の博士号を取得しました。