ジェネレーティブ AI の魔法の 1 つは、ほとんどの人がその仕組みをまったく知らないことです。あるレベルでは、ChatGPT の内部の仕組みは最も優秀な科学者でさえも困惑させるほどなので、その仕組みを完全に理解している人は誰もいないと言っても過言ではありません。それはブラック ボックスです。どのようにトレーニングされるのか、どのデータがどのような結果を生み出すのか、その過程でどのような IP が踏みにじられるのか、私たちには完全にはわかりません。これは魔法の一部であると同時に、恐ろしいことでもあります。アリアナ スプリングは、今年のコンセンサス フェスティバル (テキサス州オースティンで 5 月 29 日から 31 日まで開催) で講演します。

ブラックボックスの内部を覗き込み、AI がどのように管理され、トレーニングされ、生産されるかを明確に視覚化できる方法があったらどうでしょうか。これが、AI モデルの透明性とコラボレーションを高めるための研究とツールの作成を行っている EQTY Lab の目標 (または目標の 1 つ) です。たとえば、EQTY Lab の Lineage Explorer では、モデルの構築方法をリアルタイムで確認できます。

これらすべてのツールは、不透明性と中央集権化をチェックするためのものだ。「AI がなぜその決定を下しているのか、誰が責任を負っているのかを理解していなければ、なぜ有害な情報が吐き出されているのかを調査するのは非常に困難です」と EQTY Lab の研究責任者、アリアナ・スプリング氏は言う。「ですから、中央集権化、そして秘密をブラックボックスの中に閉じ込めておくことは非常に危険だと思います」

同僚のアンドリュー・スタンコ (財務責任者) とともに、スプリング氏は、暗号通貨によってより透明性の高い AI がどのように作成できるか、これらのツールが気候変動科学のためにすでにどのように導入されているか、そしてこれらのオープンソース モデルがより包括的で人類全体を代表できる理由について語ります。

インタビューはわかりやすくするために要約され、軽く編集されています。

EQTY Lab のビジョンと目標は何ですか?

アリアナ・スプリング: 私たちは、AI における信頼と革新を構築するための新しいソリューションを開拓しています。そして、生成 AI は現在、一種のホットな話題であり、最も新しい特性であるため、私たちはそれに重点を置いています。

しかし、私たちはあらゆる種類の AI とデータ管理にも注目しています。そして、私たちが本当に力を入れているのは信頼と革新です。私たちは、高度な暗号化技術を使用して、モデルの透明性を高め、同時にコラボレーションも実現しています。私たちは、透明性とコラボレーションを、よりスマートで安全な AI を作成するための表裏一体であると考えています。

暗号通貨がこれにどう当てはまるかについて、もう少し詳しくお話しいただけますか? 「暗号通貨と AI は相性抜群」と言う人は多いですが、その根拠は非常に高いレベルで止まっている場合が多いです。

アンドリュー・スタンコ: AI と暗号の交差点は、未解決の問題だと思います。私たちが発見したことの 1 つは、AI の隠された秘密は、それが共同作業であり、多数の利害関係者がいるということです。データ サイエンティスト 1 人で AI モデルを作ることはできません。トレーニングしたり、微調整したりすることはできますが、暗号は何かを行う方法となり、それが行われたことを改ざん不可能な方法で検証できるようになります。

したがって、AI トレーニングのように複雑なプロセスでは、トレーニング中とトレーニング後の両方で、改ざん防止と検証可能な証明書を用意しておくことが非常に役立ちます。これにより、信頼性と可視性が生まれます。

アリアナ・スプリング：私たちが行っているのは、AI のライフサイクルとトレーニング プロセスの各ステップで、何が起こったかの公証、つまりスタンプが付けられることです。これは、そのアクションを実行しているエージェント、人間、またはマシンに関連付けられた分散 ID、つまり識別子です。タイムスタンプがあります。また、Lineage Explorer を使用すると、私たちが行うすべてのことが暗号化を使用して自動的に登録されていることがわかります。

そして、ガバナンス製品ではスマート コントラクトを使用します。X パラメータが満たされるか満たされないかによって、特定のアクションが続行されるか続行されないかが決まります。私たちが持っているツールの 1 つが Governance Studio です。これは基本的に、AI をトレーニングする方法や AI ライフサイクルを管理する方法をプログラムし、それが下流に反映されます。

どのような種類のツールを構築しているのか、もう少し詳しく説明していただけますか? たとえば、他のスタートアップがトレーニング モデルを構築するのを支援するためのツールを構築したり、研究を行ったりしているのでしょうか、それともトレーニング モデルを独自に構築しているのでしょうか? つまり、この環境における EQTY Labs の役割とは正確には何でしょうか?

Andrew Stanco: ある意味、それはミックスです。なぜなら、私たちはエンタープライズに重点を置いているからです。なぜなら、トレーニングとガバナンスの観点から AI を正しく導入する必要がある最初の大きな場所の 1 つになるからです。その点を掘り下げていくと、開発者、またはその組織内の誰かがコードに注釈を付けて、「さて、これが起こったことです」と言って記録を作成できる領域が必要になります。これはエンタープライズに重点を置いたもので、開発者やモデルの構築と展開を行う人々との連携に重点を置いています。

アリアナ・スプリング：私たちは気候情報基金を通じてモデルのトレーニングにも取り組んできました。気候に特化した大規模言語モデルである ClimateGPT というモデルのトレーニングを支援しました。これは私たちの主な業務ではありませんが、私たちはプロセスを経験し、一連のテクノロジーを使用してそのプロセスを視覚化しました。そのため、それがどのようなものかを理解しています。

AI に関して最も興奮することは何ですか? また、AI に関して最も恐れることは何ですか?

Andrew Stanco: 興奮の理由としては、生成 AI と初めてやり取りした瞬間は、モデル内の稲妻が解き放たれたような感じでした。MidJourney で初めてプロンプトを作成したとき、または ChatGPT に初めて質問したとき、それが強力かもしれないと誰かに納得してもらう必要はありませんでした。もう新しいことはあまりないと思っていましたが、そうですよね?

テロについてはどうですか？

アンドリュー・スタンコ: これは、コンセンサスで議題に上がる多くの事柄の背後にある懸念事項だと思います。議題をちょっと覗いただけで、懸念されるのは、これらのツールによって既存の勝者がより深いモードを掘り下げることができるようになることです。これは必ずしも破壊的な技術ではなく、定着させる技術です。

アリアナさん、あなたにとっての AI の興奮と恐怖は何ですか?

アリアナ・スプリング：私も同じようなことを言おうとしていたので、まずは私の恐怖からお話しします。中央集権化です。中央集権化が、物事の仕組みに関する透明性の欠如と相まってもたらす害は、すでに目にしてきました。たとえば、過去 10 年、15 年にわたってソーシャル メディアで見てきました。AI がなぜそのような決定を下しているのか、誰が責任を負っているのかを理解していなければ、なぜ有害な情報が流されているのかを調査するのは非常に困難です。ですから、中央集権化、そしてそれらの秘密をブラック ボックスに保存することは、非常に危険だと思います。

興奮はどうですか？

私が最も楽しみにしていることは、より多くの人々を巻き込むことです。ClimateGPT のトレーニング中に、先住民の高齢者グループや低所得者、都市部の黒人や褐色人種の若者、中東の学生など、さまざまな種類の利害関係者グループと協力する機会がありました。私たちは、これらすべての気候活動家や学者と協力して、「このモデルをより良くするために協力しませんか?」と呼びかけています。

みんなとても興奮していますが、仕組みを理解していなかったのかもしれません。仕組みと、どう貢献できるかを教えるだけで、みんなが「これはいい」と言うのがわかります。自信がつき、さらに貢献したくなります。ですから、EQTY Research で行っている仕事を通じて、そうしたフレームワークのいくつかを公開し始め、それほど代表的ではないシステムに頼らなくて済むようになるのは本当にうれしいです。

素晴らしい言葉ですね。オースティンのコンセンサス AI サミットでお会いしましょう。