Parte da magia da IA ​​Generativa é que a maioria das pessoas não tem ideia de como ela funciona. Até certo ponto, é até justo dizer que ninguém tem certeza de como funciona, já que o funcionamento interno do ChatGPT pode deixar os cientistas mais brilhantes perplexos. É uma caixa preta. Não temos certeza de como ele é treinado, quais dados produzem quais resultados e qual propriedade intelectual está sendo pisoteada no processo. Isso faz parte da magia e do que é assustador. Ariana Spring é palestrante no festival Consensus deste ano, em Austin, Texas, de 29 a 31 de maio.

E se houvesse uma maneira de espiar dentro da caixa preta, permitindo uma visualização clara de como a IA é governada, treinada e produzida? Esse é o objetivo — ou um dos objetivos — do EQTY Lab, que conduz pesquisas e cria ferramentas para tornar os modelos de IA mais transparentes e colaborativos. O Lineage Explorer do EQTY Lab, por exemplo, fornece uma visão em tempo real de como o modelo é construído.

Todas essas ferramentas são pensadas como uma verificação contra opacidade e centralização. “Se você não entende por que uma IA está tomando as decisões que está tomando ou quem é o responsável, é realmente difícil questionar por que coisas prejudiciais estão sendo vomitadas”, diz Ariana Spring, Chefe de Pesquisa no EQTY Lab. “Então eu acho que a centralização — e manter esses segredos em caixas-pretas — é realmente perigoso.”

Acompanhada por seu colega Andrew Stanco (chefe de finanças), Spring compartilha como as criptomoedas podem criar uma IA mais transparente, como essas ferramentas já estão sendo implantadas a serviço da ciência das mudanças climáticas e por que esses modelos de código aberto podem ser mais inclusivos e representativos da humanidade em geral.

A entrevista foi condensada e ligeiramente editada para maior clareza.

Qual é a visão e o objetivo do EQTY Lab?

Ariana Spring: Somos pioneiros em novas soluções para construir confiança e inovação em IA. E IA generativa é o tópico mais quente agora, e essa é a propriedade mais emergente, então é algo em que estamos focados.

Mas também olhamos para todos os diferentes tipos de IA e gerenciamento de dados. E realmente confiança e inovação são onde nos apoiamos. Fazemos isso usando criptografia avançada para tornar os modelos mais transparentes, mas também colaborativos. Vemos transparência e colaboração como dois lados da mesma moeda de criação de IA mais inteligente e segura.

Você pode falar um pouco mais sobre como a cripto se encaixa nisso? Porque você vê muitas pessoas dizendo que “Cripto e IA são uma ótima combinação”, mas frequentemente a lógica para em um nível muito alto.

Andrew Stanco: Acho que a intersecção entre IA e criptografia é uma questão em aberto, certo? Uma coisa que descobrimos é que o segredo oculto sobre IA é que ela é colaborativa; tem uma multidão de partes interessadas. Nenhum cientista de dados poderia fazer um modelo de IA. Eles podem treiná-lo, podem ajustá-lo, mas a criptografia se torna uma maneira de fazer algo e então ter uma maneira inviolável de verificar se isso aconteceu.

Então, em um processo tão complexo quanto o treinamento de IA, ter essas atestações invioláveis ​​e verificáveis ​​— tanto durante o treinamento quanto depois — realmente ajuda. Isso cria confiança e visibilidade.

Ariana Spring: O que fazemos é que em cada etapa do ciclo de vida da IA ​​e do processo de treinamento, há uma autenticação em cartório — ou um carimbo — do que aconteceu. Este é o ID descentralizado, ou identificador, que está associado ao agente ou humano ou máquina que está realizando essa ação. Você tem o carimbo de data/hora. E com nosso Lineage Explorer, você pode ver que tudo o que fazemos é registrado automaticamente usando criptografia.

E então usamos contratos inteligentes em nossos produtos de governança. Então, se o parâmetro X for atendido ou não, uma determinada ação pode prosseguir ou não. Uma das ferramentas que temos é um Governance Studio, e isso basicamente programa como você pode treinar uma IA ou como você pode gerenciar seu ciclo de vida de IA, e isso é então refletido a jusante.

Você pode esclarecer um pouco que tipo de ferramentas você está construindo? Por exemplo, você está construindo ferramentas e fazendo pesquisas que visam ajudar outras startups a construir modelos de treinamento, ou você está construindo modelos de treinamento você mesmo? Em outras palavras, qual é exatamente o papel do EQTY Labs neste ambiente?

Andrew Stanco: É uma mistura, de certa forma, porque nosso foco está na empresa, já que esse será um dos primeiros grandes lugares onde você precisa obter a IA correta do ponto de vista de treinamento e governança. Se você se aprofundar nisso, então precisamos ter uma área onde um desenvolvedor — ou alguém naquela organização — possa anotar o código e dizer: "Ok, foi isso que aconteceu", e então criar um registro. É focado na empresa, com ênfase em trabalhar com desenvolvedores e as pessoas que constroem e implantam os modelos.

Ariana Spring: E ​​nós trabalhamos no treinamento do modelo também através do Endowment for Climate Intelligence. Nós ajudamos a treinar um modelo chamado ClimateGPT, que é um modelo de linguagem grande específico para o clima. Esse não é o nosso ganha-pão, mas nós passamos pelo processo e usamos nosso conjunto de tecnologias para visualizar esse processo. Então nós entendemos como é.

O que mais te entusiasma na IA e o que mais te aterroriza nela?

Andrew Stanco: Quero dizer, para empolgação, aquele primeiro momento em que você interage com a IA generativa pareceu que você descortilhou o relâmpago no modelo. A primeira vez que você cria um prompt no MidJourney, ou que você faz uma pergunta ao ChatGPT, ninguém precisa te convencer de que talvez isso seja poderoso. E eu não achei que houvesse muitas coisas novas mais, certo?

E quanto ao terror?

Andrew Stanco: Acho que essa é uma preocupação que talvez seja o subtexto para muito do que vai estar no Consensus, apenas dando uma espiada na agenda. A preocupação é que essas ferramentas estão deixando os vencedores existentes cavarem modos mais profundos. Que essa não é necessariamente uma tecnologia disruptiva, mas uma tecnologia entrincheirante.

E Ariana, qual é sua principal excitação e terror em relação à IA?

Ariana Spring: Vou começar com meu medo porque eu ia dizer algo parecido. Eu diria centralização. Vimos os danos da centralização quando combinada com a falta de transparência sobre como algo funciona. Vimos isso nos últimos 10, 15 anos com as mídias sociais, por exemplo. E se você não entende por que uma IA está tomando as decisões que está tomando ou quem é o responsável, é muito difícil questionar por que coisas prejudiciais estão sendo espalhadas. Então, acho que a centralização — e manter esses segredos em caixas-pretas — é realmente perigoso.

Que tal emoção?

O que mais me empolga é trazer mais pessoas. Tivemos a chance de trabalhar com vários tipos diferentes de grupos de partes interessadas enquanto treinávamos o ClimateGPT, como grupos indígenas mais velhos ou jovens negros e pardos de baixa renda, urbanos, ou estudantes no Oriente Médio. Estamos trabalhando com todos esses ativistas climáticos e acadêmicos para dizer: "Ei, você quer ajudar a melhorar esse modelo?"

As pessoas estão realmente animadas, mas talvez não tenham entendido como funcionava. Depois que ensinamos a elas como funcionava e como elas poderiam ajudar, você pode vê-las dizer: "Ah, isso é bom". Elas ganham confiança. Então, elas querem contribuir mais. Então, estou realmente animado, especialmente pelo trabalho que estamos fazendo na EQTY Research, para começar a publicar algumas dessas estruturas, para que não tenhamos que depender de sistemas que talvez não sejam tão representativos.

Lindamente dito. Vejo vocês em Austin no Consensus’ AI Summit.