MIT の研究者と他の組織は、AI システムがもたらすリスクを文書化した広範なデータベースである AI リスク リポジトリを作成しました。これは、テクノロジーが急速に進化していることを反映したもので、AI システムの使用に伴うリスクも同様です。

このリポジトリは、変革能力を持つ AI に関連する新たなリスクを政府、研究、企業、業界などのさまざまな機関の意思決定者が評価できるよう支援することを目的としています。

リポジトリはAIリスクの整然とした文書化をもたらす

多くの組織や研究者が AI リスクの解決の重要性を認識している一方で、これらのリスクを文書化して分類する取り組みは、大部分が不器用なものであり、矛盾する分類システムが断片化して存在する状況となっています。

「チェックリストとして使える、AIのリスクの包括的な概要が欲しかった」と、MIT FutureTechの次期ポスドクでプロジェクトリーダーのピーター・スラタリー氏はVentureBeatに語った。

「しかし、文献を調べてみると、既存のリスク分類はジグソーパズルのピースのようなもので、個々には興味深く有用だが、不完全であることがわかった。」

スラタリー。

AI リスク リポジトリは、査読済み論文、プレプリント、会議論文、レポートなど、既存の 43 の分類法からの情報を融合することで、上記の課題に対処します。

この綿密なキュレーション プロセスにより、700 を超える独自のリスクを含むデータベースが確立されました。リポジトリでは、2 つの次元の分類システムが使用されています。

まず、責任を負う主体（人間または AI）、意図（非意図的または国際的）、タイミング（開発後または展開前）を考慮して、リスクは原因に基づいて分類されます。

MIT によれば、この基本的な分類は、AI リスクが発生する可能性がある状況とメカニズムを理解するのに役立ちます。

MITの研究者はAIのリスクを7つに分類した

一方、リスクは、誤情報や悪意のある行為者、悪用、差別や有害性、プライバシー、セキュリティなど、7 つの異なる領域に分類されます。

AI リスク リポジトリは、生きたデータベースとなるように設計されており、公開されており、機関はそれをダウンロードして使用することができます。

研究チームは、新しいリスク、最新の調査結果、進化する傾向に合わせてデータベースを頻繁に最新の状態に更新する計画を立てることができます。

AI リスク リポジトリは、さまざまな分野の企業にとって実用的なリソースとなることも意図されています。AI システムを開発する機関にとって、このリポジトリはリスクを評価し、リスクを軽減するための貴重なチェックリストとして機能します。

「AI を使用する組織は、リスクの露出と管理を包括的に評価するための有用な基盤として AI リスク データベースと分類法を採用することでメリットを得ることができます。」

MITの研究者

「この分類法は、特定のリスクを軽減するために実行する必要がある特定の行動を特定するのにも役立つ可能性がある」と研究者らは付け加えた。

たとえば、AI を活用した採用システムを構築している組織は、リポジトリを利用して、差別や偏見に関連する潜在的なリスクを把握できます。

したがって、コンテンツのモデレーションに AI を活用する企業は、「誤情報」領域を活用して、AI 生成コンテンツに関連する潜在的なリスクを理解し、必要なセーフティネットを確立することができます。

MITの研究者らは、クイーンズランド大学、フューチャー・オブ・ライフ研究所、ルーヴェン・カトリック大学、AIスタートアップ企業ハーモニー・インテリジェンスの研究者らと協力し、学術データベースを精査してAIのリスクに関連する文書を入手した。

研究者らはまた、AI リスク リポジトリが、注意が必要なギャップをさらに特定するにつれて、他の研究にも情報を提供するだろうと明らかにした。

「このリポジトリを使用して、組織によるリスクへの対処方法における潜在的なギャップや不均衡を特定します」と、MITフューチャーテックラボの責任者であるニール・トンプソン氏は述べた。