元グーグルCEOエリック・シュミットは、人工知能の開発者に対し、開発の限界を制御するよう警告しました。彼はまた、米国が中国に対する進行中の人工知能（AI）競争に勝つことの重要性を強調しました。
日曜日にABCニュースのジョージ・ステファノプロスとの「今週」で発言したシュミットは、AIシステムが独立して動作し、自分自身を改善する可能性について警告しました。
「私たちは間もなく、コンピュータが自分自身で動き、何をしたいかを決定できるようになります」とシュミットは言いました。
シュミット：AIは放置されるべきではありません
シュミットは、進んだAIが制御されずに発展するリスクを繰り返し強調し、自己改善が可能なシステムは重大な危険をもたらすと指摘しました。
「システムが自己改善できるとき、私たちはそれをプラグを抜くことを真剣に考える必要があります」と元グーグルCEOは言いました。
ステファノプロスがシュミットにそのようなAIシステムがシャットダウンを防ぐことができるかどうか尋ねたとき、シュミットは「理論的には、プラグに手をかけている誰かが必要です—比喩的に」と答えました。
AIの存在的リスクに関する懸念が高まる中、一部の専門家はそのような恐れが誇張されていると主張しています。インペリアル・カレッジ・ロンドンの研究副学長ニック・ジェニングス教授は、終末予測を退ける立場にいます。
ジェニングスは、AIが特定のタスクで優れている一方で、人間に似た知能を多様な分野で持つシステムを作成することは、現時点で科学者の能力をはるかに超えていると主張しています。
「特定のタスクを非常にうまく遂行するAIを開発することは可能です」とジェニングスは説明しました。「しかし、複数の分野で人間の知能を反映する一般的なAIを構築することは、近い将来に期待できることではありません。」
AIの脅威に関する意見の相違
一方で、目標が不明確で安全対策が不十分であることによる危険を警告する主要なAI研究者たちの懸念は依然として残っています。UCバークレーの教授スチュアート・ラッセルとポスドク研究者マイケル・コーエンは、強力なAIシステムが放置されれば人類にとって存在的脅威をもたらす可能性があると主張しています。
サイエンスジャーナルに発表された見解論文で、ラッセルとコーエンはAI開発のより厳格な監視を求めました。彼らは、テクノロジー企業が市場にリリースする前にAIシステムの安全性を証明する必要があると強調しました。明確な目標と堅牢な安全策がなければ、高度なAIシステムは人間の利益に反して行動する可能性があると彼らは主張しています。
「これらのAIの目標が人間のそれと対立すると、災害を引き起こす可能性があります」とラッセルとコーエンは書いています。彼らは、テクノロジー企業が自社のシステムの安全性を確保し、AIが決して越えてはいけない重要な「レッドライン」を特定する責任を負うべきだと考えています。
AI安全性に関する議論の高まり
AIの急速な進歩は、すでに誤情報の拡散、社会的分極化、アルゴリズムのバイアスなどの課題をもたらしています。安全性と規制に関する懸念は、技術の発展に追いついていない。
シュミットの発言は、業界リーダーたちがこれらの課題に対処する必要性の高まりを反映しています。イーロン・マスクのような専門家は、AIのリスクを軽減するための予防的な規制を長い間求めてきました。
かつてAIを「私たちの文明が直面する最大のリスク」と表現したマスクは、当局がその危険に対処するためにほとんど何もしていないと警告しました。同様に、物理学者スティーブン・ホーキングは、機械が人間の知能を超えるシンギュラリティの達成が、人類が進んだAIシステムを制御できなくなる可能性があることを懸念していました。
彼のインタビューで、ホーキングは規制がなければAIは「人類にとって最も良いことまたは最も悪いことになる可能性がある」と主張しました。
米中のAI競争が激化
シュミットは、米国が以前は中国に対してAI開発でリードしていたが、過去6か月でその差が大幅に縮まったと指摘しました。「中国は驚くべき方法で追いついてきました」と彼は言い、現在の状況を二つの大国間の高リスクの競争と表現しました。
「次の1年または2年のうちに、システムが自分自身で研究を始めるポイントがあるかもしれません。彼らは人間の科学者ではなくAI科学者と呼ばれます。したがって、1,000人の人間の科学者から1,000,000人のAI科学者に移行します。これは傾斜を増加させると思います。そして、このペースで進んでいると、競争相手が追いつくのは非常に困難です」と彼は述べました。
シュミットは、トランプ政権がAIにおける米国の競争力を優先すると信じており、これは前向きなステップだと見ています。「人間の価値が守られる限り、私たちは大丈夫だと思います」と彼は述べました。
90日でWeb3キャリアを開始し、高給の暗号職を獲得するためのステップバイステップシステム。