大人気のChatGPT AIチャットボットを開発するOpenAIは、自社のシステムが「安全かつセキュア」であることを保証するために、バグ報奨金プログラムを立ち上げた。

そのために、同社はクラウドソーシングのセキュリティプラットフォームであるBugcrowdと提携し、独立した研究者が同社製品で発見された脆弱性を報告し、「重大度の低い発見に対しては200ドル、例外的な発見に対しては最大20,000ドル」の報酬を受け取れるようにした。

このプログラムは、チャットボットが悪意のあるコードやその他の欠陥のある出力を生成するよう促されるモデルの安全性や幻覚の問題をカバーしていないことに注意する必要がある。同社は、「これらの問題に対処するには、多くの場合、相当な研究と幅広いアプローチが必要になる」と指摘した。

その他の禁止カテゴリには、サービス拒否 (DoS) 攻撃、OpenAI API のブルートフォース攻撃、問題を浮き彫りにするために必要な範囲を超えてデータを破壊したり機密情報に不正にアクセスしたりすることを目的としたデモンストレーションなどがあります。

「認可されたテストは、OpenAIの利用規約のすべてを免除するものではないことにご注意ください」と同社は警告した。「サービスを悪用すると、レート制限、ブロック、または禁止の対象となる場合があります。」

ただし、対象となるのは、OpenAI API、ChatGPT（プラグインを含む）、サードパーティの統合、OpenAI API キーの公開、および同社が運営するドメインの欠陥です。

この動きは、OpenAIがプラットフォームのアカウント乗っ取りとデータ漏洩の欠陥を修正したことを受けて起こったものであり、イタリアのデータ保護規制当局はプラットフォームをより詳しく調査するようになった。

#chatgpt #chatgpt4 #ai #artificialintelligence #varhegyigergo #bug #error #prizes