Divulgação: As visões e opiniões expressas aqui pertencem exclusivamente ao autor e não representam as visões e opiniões do editorial do crypto.news.
A velocidade com que a IA está superando a regulamentação representa um risco para a verificação de dados, identidade e reputação e, se não for controlada, pode aumentar a prevalência de desinformação e retardar o progresso da inovação científica. A marcha em direção à IA superinteligente é representada por seus líderes mais fervorosos como um impulso em direção a uma era de ouro científica. No entanto, esse impulso aumenta as chances de um risco existencial de nossa sociedade atingir um platô tecnológico degradativo, onde a adoção em larga escala de tecnologia de IA imatura limita e, com o tempo, degrada a criatividade e a inovação humanas.
Você também pode gostar: A votação ZKP promete desbloquear democracias matematicamente seguras | Opinião
Esta é uma visão contraditória para a maioria dos aceleracionistas. A IA deve aumentar nossa capacidade de trabalhar mais rapidamente e sintetizar maiores quantidades de informação. No entanto, a IA não pode substituir o raciocínio indutivo ou o processo experimental. Hoje, qualquer um pode usar a IA para fabricar uma hipótese científica e usar isso como entrada para gerar um artigo científico. Os resultados de produtos como Aithor frequentemente parecem autoritários na superfície e podem até passar pela revisão por pares. Este é um grande problema porque textos gerados por IA já estão sendo curados como descobertas científicas legítimas e frequentemente incluem dados fabricados falsificados para apoiar suas alegações. Há um grande incentivo para jovens pesquisadores utilizarem quaisquer meios disponíveis para competir por um número limitado de empregos acadêmicos e oportunidades de financiamento. O sistema de incentivos atual na academia recompensa aqueles que podem publicar o maior número de artigos, independentemente de esses artigos descreverem descobertas legítimas—eles apenas precisam passar pela revisão por pares e obter citações suficientes.
Conteúdo acadêmico com autoria não verificada também representará um problema significativo para indústrias dependentes da ciência básica para impulsionar sua pesquisa e desenvolvimento, a própria P&D que mantém nossa sociedade funcionando e mantém a qualidade de vida para uma população global crescente. Como resultado, P&D bem financiada só pode confiar na pesquisa que é capaz de realizar e replicar por conta própria, aumentando o valor de segredos comerciais e causando um golpe devastador à ciência aberta e ao acesso a informações significativas.
Esforços de replicação caros podem lidar com desinformação por conta própria, no entanto, o problema é muito maior do que isso. Hoje, estamos enfrentando uma erosão da confiança nas próprias fundações do conhecimento, onde alegações não verificáveis e atribuições ambíguas minam os avanços científicos, representando uma ameaça à comunidade científica. Há uma necessidade urgente de estabelecer uma economia baseada na verdade para autenticar conteúdo e dados de forma confiável.
Os sistemas de IA são tão poderosos quanto os dados nos quais são treinados
Modelos de linguagem grandes são excelentes ferramentas para gerar conteúdo convincente; no entanto, eles são apenas tão informativos quanto os dados nos quais são treinados. Sua capacidade de extrapolar fora do conjunto de treinamento ainda permanece limitada. O papel da ciência não é apenas sintetizar o conhecimento existente, mas criar novos artefatos informativos que aumentem a entropia do corpus coletivo de conhecimento acumulado pela humanidade. Com o tempo, à medida que mais pessoas usam IA para gerar conteúdo e menos pessoas geram conteúdo original, enfrentaremos um 'inchaço de baixa entropia' que não introduz novas informações no mundo, mas apenas recombina o conhecimento passado. Fontes primárias se perderão à medida que o novo 'conhecimento' se basear em conteúdo gerado por IA auto-referencial, a menos que construamos uma proveniência resiliente e uma camada de atribuição verificada nas ferramentas de IA usadas para pesquisa séria.
Esta 'lobotomização' da profundidade intelectual do corpus humano coletivo levará a impactos duradouros na pesquisa médica, econômica e acadêmica, bem como nas artes e nas atividades criativas. Dados não verificados podem influenciar estudos, distorcendo resultados e levando a falhas importantes em políticas ou tecnologias que erodem a autoridade da pesquisa científica. Os riscos da 'ciência' gerada por IA são multifacetados. A operação mundana da ciência normal será paralisada por debates sobre autoria, alegações de plágio e revisão por pares prejudicada. Precisaremos dedicar mais tempo e energia para lidar com as muitas consequências do declínio da qualidade e precisão da pesquisa científica.
A IA é uma ferramenta útil para provocar ideias, estruturar pensamentos e automatizar tarefas repetitivas; ela deve permanecer como um complemento ao conteúdo criado por humanos e não como um substituto. Não deve ser usada para autorar artigos científicos que proponham descobertas originais sem realizar o trabalho, mas sim como uma ajuda para aumentar a eficiência e a precisão dos esforços liderados por humanos. Por exemplo, a IA pode ser útil na execução de simulações em dados existentes com métodos já conhecidos e automatizando esse trabalho para ajudar a descobrir novas direções de pesquisa. No entanto, o protocolo experimental e a criatividade humana exigidos para a investigação científica não podem ser facilmente substituídos.
Construindo uma economia baseada na verdade
Uma economia baseada na verdade estabelece uma estrutura com sistemas e padrões para garantir a autenticidade, integridade, transparência e rastreabilidade da informação e dos dados. Ela aborda a necessidade de estabelecer confiança e verificabilidade na sociedade tecnológica, permitindo que indivíduos e organizações confiem na precisão do conhecimento compartilhado. O valor está enraizado na veracidade das alegações e na autenticidade de observações e fontes primárias. Uma economia baseada na verdade tornará o conhecimento digital 'duro' da maneira que o Bitcoin tornou o fiat duro. Esta é a promessa do movimento de ciência descentralizada.
Como chegamos lá? Precisamos começar com o elemento mais importante no mundo científico, o pesquisador individual e seu trabalho. Os padrões da web atuais para identidade científica hoje são insuficientes para verificar alegações sobre identidade e prova de trabalho. A prática atual torna muito fácil fabricar um perfil com uma reputação aceitável; as revisões por pares também estão em risco devido a preconceitos e conluio. Sem a verificação dos metadados que acompanham uma alegação científica, uma economia baseada na verdade para a ciência não pode ser estabelecida.
Melhorias nos padrões de identidade acadêmica podem começar com um simples login multiplataforma alimentado por tecnologia de verificação de identidade que preserve a privacidade. Os usuários devem ser capazes de se conectar a qualquer site com suas credenciais, provar autenticidade e divulgar seletivamente fatos sobre sua reputação, dados ou outros agentes ou usuários.
Uma camada de identidade que está enraizada na reputação verificável de um pesquisador é a base fundamental do DeSci. Uma economia científica completamente on-chain permitirá a participação pública e anônima na coordenação massiva online para atividades de pesquisa. Laboratórios de pesquisa e organizações autônomas descentralizadas podem criar sistemas permissivos e programas de recompensa que não podem ser manipulados por reivindicações fraudulentas de reputação ou identidade. Um registro científico universal protegido por blockchain com reivindicações de identidade forneceria uma estrutura de referência para organizações autônomas construídas para acumular conhecimento científico verificável e testar hipóteses falsificáveis.
Protegendo o futuro do progresso humano
Precisamos estabelecer as fundações da verdade através da transparência da informação e verificação rigorosa para evitar um colapso da confiança dentro dos campos de pesquisa especializados. As chances de nosso progresso coletivo continuar por centenas de anos, desbloqueando sucessivas revoluções científicas em ciência dos materiais, biotecnologia, neurociência e ciência da complexidade, dependerão da curadoria de pesquisa de qualidade e dados sólidos. Esta será a diferença entre uma sociedade futura que é tão avançada quanto nós em comparação com sociedades pré-iluministas. Caso contrário, teremos que esperar que isso seja o mais inteligente que conseguimos como espécie, e nos tornaremos apenas mais estúpidos. Não está claro se o DeSci nos salvará ou não, mas há um tempo limitado para acertar as coisas.
Leia mais: A ciência descentralizada está modernizando sistemas ultrapassados | Opinião
Autor: Shady El Damaty
Shady El Damaty é cofundador da Holonym Foundation, buscando uma solução para a pessoa universal e acesso digital seguro com um protocolo de identidade descentralizado construído na mágica das provas de conhecimento zero. Em 2020, ele fundou a OpSci, a primeira organização de ciência descentralizada, ou DeSci para abreviar. Antes de sua carreira em cripto, Shady obteve seu PhD em neurociência pela Georgetown University, Washington, D.C., Estados Unidos.