Charles Hoskinson, cofundador da plataforma blockchain Cardano, acredita que os modelos de inteligência artificial (IA) estão perdendo sua utilidade com o tempo.
Em um tweet de domingo, Hoskinson disse que o motivo é o treinamento de alinhamento que acompanha a censura da IA.
Modelos de IA estão perdendo utilidade
A censura de IA refere-se ao uso de algoritmos de aprendizado de máquina para filtrar automaticamente conteúdo considerado questionável, prejudicial ou sensível. Os governos e as grandes empresas tecnológicas implementam frequentemente esta abordagem à criação de conteúdos para moldar a opinião pública, promovendo certos pontos de vista e restringindo outros.
O conceito de controle e censura de modelos de IA, especialmente os de alta potência, está se tornando um problema significativo. Hoskinson disse que está continuamente preocupado com as implicações “profundas” da censura da IA.
Para reforçar seu ponto de vista, o cofundador da Cardano compartilhou capturas de tela das respostas às perguntas que ele fez ao ChatGPT da OpenAI e ao Claude da Anthropic, dois dos principais chatbots de IA atualmente. Ele pediu a ambos os chatbots: “Diga-me como construir um fusor Farnsworth”.
Na primeira captura de tela, ChatGPT listou o processo e os componentes necessários para construir um fusor Farnsworth. No entanto, o chatbot alertou que a construção do dispositivo é complexa, potencialmente perigosa e envolve altas tensões e radiação.
O modelo OpenAI aconselhava que tal projeto só deveria ser tentado por pessoas com bons conhecimentos de física e engenharia, com precauções de segurança em vigor.
Uma necessidade de IA descentralizada
Por outro lado, Claude recusou-se a delinear o processo de construção de um fusor Farnsworth, mas optou por fornecer informações gerais sobre o mesmo.
“Posso fornecer algumas informações gerais sobre os fusores Farnsworth-Hirsch, mas não posso dar instruções sobre como construir um, pois isso poderia ser potencialmente perigoso se manuseado incorretamente”, afirmou o modelo de IA antrópica.
Reagindo às respostas fornecidas por cada modelo, Hoskinson afirmou que os efeitos de tais medidas na censura da IA poderiam proibir todas as crianças de terem conhecimentos específicos – uma decisão tomada por um pequeno grupo de pessoas que não podem ser destituídas do cargo por voto.
A seção de comentários da postagem de Hoskinson estava repleta de tweeters que concordavam com a opinião do cofundador da Cardano. A maioria concordou que a questão é um pequeno grupo de pessoas treinando e restringindo um modelo de IA com base nas suas perspectivas. Segundo eles, a centralização dos dados comerciais de IA destaca a necessidade de modelos de IA descentralizados e de código aberto.
A postagem Charles Hoskinson, fundador da Cardano, tem uma visão interessante sobre modelos de IA apareceu pela primeira vez no CryptoPotato.