OpenAI は、機械学習プロジェクトのセキュリティを強化するために、安全およびセキュリティ委員会の設立を発表しました。この新しいガバナンス組織は、AI がもたらすリスクに対処する社内のスーパーアライメント チームの廃止など、組織内の最近の変更を踏まえて誕生しました。
委員会の発表は、同社内での一連の戦略的変更と、AGI への進歩を示唆する同社の次世代モデルのトレーニングの開始に続くものである。
OpenAI 理事会は、すべての OpenAI プロジェクトに関する重要な安全性とセキュリティの決定について勧告を行う責任を負う安全性とセキュリティ委員会を結成しました。https://t.co/tsTybFIl7o
— OpenAI (@OpenAI) 2024 年 5 月 28 日
OpenAI、AI監視強化のための新委員会を設立
GPT-4の開発元であるOpenAIは、9人のメンバーからなる強力な安全・セキュリティ委員会を結成し、さらにその能力を向上させました。この委員会には、組織の幹部が含まれています。CEO兼取締役会長のSam Altman氏をはじめ、Aleksander Madry氏、Lilian Weng氏、John Schulman氏、Matt Knight氏、Jakub Pachocki氏です。彼らの主な責任は、AIリスク管理プロセスの取り扱いを改善することです。詳細な報告書は、今後90日以内に取締役会に提出される予定です。
こちらもお読みください: アマゾンはNVIDIAのAIチップの覇権に挑戦するのに苦戦中
OpenAI の安全性監視の変更は、Ilya Sutskever 氏と Jan Leike 氏の退任、AI 安全性を担当する Superalignment チームの解散など、数多くのリーダーシップの変更に続くものです。この再編は、AI イノベーションのフロンティアを拡大しながら AI リスク管理戦略を改善したいという OpenAI の意欲を示しています。
OpenAIは次のフロンティアモデルのトレーニング中
新しい委員会に加えて、OpenAIは彼らが次なるフロンティアモデルと呼ぶもののトレーニングを開始しました。このモデルは、現在のモデルの能力を超え、AGIの実現に近づくことを目指しています。この動きは、さまざまなタスクを効果的かつ効率的に実行できるAIソリューションを作成するという彼らの継続的な使命の一環です。OpenAIの最高技術責任者であるミラ・ムラティ氏は、GPT-4の主要なアップデートではモデルに大きな機能強化がもたらされ、テクノロジーと関連するユースケースの進歩が反映される可能性があると述べました。
関連記事：中国のAI企業が激しい価格戦争を開始
AI研究用のクラウド インフラストラクチャを提供する重要なパートナーである Microsoft の最新の知見によると、新しいモデルは大きな進歩を示すものになるとのことです。Microsoft の CTO であるトム ワーナー氏は、これを機能と規模の点で「シャチ」から「クジラ」への移行と表現しています。
GPT-5への期待が高まる
こうしたトレンドの中、OpenAI の次世代言語モデルの予備バージョンである GPT-5 に関する噂がささやかれています。3 月のレポートによると、このプロトタイプを使用したユーザーは少数で、GPT-4 と比較して改善点があると述べられています。この話題により、技術に精通した人々や一般の人々の間で大きな期待が生まれ、関係者はこの新しいモデルの見通しについてさらに知ることを楽しみにしています。
安全委員会の再編から技術の推進まで、OpenAI が行ったことはすべて、AI 開発のリーダーとしての地位を維持するための全体像を示しています。OpenAI は、持続可能なプラットフォームの継続的な進化と統合により、AI テクノロジーの未来への道を定義する一流企業の 1 つとなっています。
クリプトポリタンのクリス・ムリティ記者によるレポート