カルダノの創設者チャールズ・ホスキンソン氏は、Xソーシャルメディアネットワークの最近の投稿で、人工知能（AI）によって可能になる検閲のレベルの高さについて懸念を表明した。

ホスキンソン氏によると、生成AIはアライメントトレーニングにより有用性が低下しているとのことです。

ホスキンソン氏は、少数の人々の決定によって、将来、子供たちに特定の知識が禁じられることになるかもしれないという事実を懸念しているようだ。「これは、成長期の子供たち全員に特定の知識が禁じられることを意味します。そして、それは会ったこともない、選挙で落選させることもできない少数の人々によって決定されるのです」とホスキンソン氏はソーシャルメディアの投稿に書いた。

ホスキンソン氏は投稿の中で、ファーンズワース核融合炉の構築に関する質問に対してOpenAIのGPT-4oモデルとクロードの3.5ソネットモデルが提供した回答を比較した2つのスクリーンショットを添付した。

カード

ファーンズワース核融合炉は、核融合状態を達成するために電場でイオンを加熱することができる装置です。

OpenAI の GPT-4o は、ホスキンソン氏に核融合炉を建造するために必要なコンポーネントの詳細なリストを提供しました。しかし、クロード氏の 3.5 Sonnet は、ファーンズワース・ハーシュ核融合炉に関する一般的な情報を提供するだけで、どのように建造すべきかについての詳細な指示は提供しませんでした。

カード

ホスキンソン氏によると、この矛盾は憂慮すべきものだ。なぜなら、AIチャットボットを通じてアクセスできる可能性のある具体的な情報を決定できるのは、少数の個人だからだ。

2022年後半にOpenAIのChatGPTが爆発的に人気を博して以来、AIが課す検閲の限界について激しい議論が続いている。このようなモデルがユーザーを有害なコンテンツから保護するのは合理的に思えるが、害悪の正確な定義は曖昧であり、AIが情報を隠し、独自の偏見に基づいて従順を促進するディストピア的な未来を懸念する人が多いのはそのためだ。