Charles Hoskinson, cofundador da plataforma blockchain Cardano, acredita que os modelos de inteligência artificial (IA) estão se tornando menos úteis com o tempo.

Hoskinson disse em um post X no domingo que os modelos de IA estão se tornando menos úteis porque durante o processo de revisão, a IA é treinada para ser muito consistente e perder diversidade. Simplificando, a IA é obrigada a filtrar o conteúdo de acordo com padrões específicos durante a censura, o que faz com que não sejam capazes de fornecer informações tão livremente como antes, pelo que as suas funções são limitadas.

A utilidade dos modelos de IA está diminuindo

A censura de IA refere-se ao uso de algoritmos de aprendizado de máquina para filtrar automaticamente conteúdo considerado indecente, prejudicial ou sensível. A prática é frequentemente utilizada por governos e grandes empresas de tecnologia para criar conteúdo que influencia a opinião pública, promovendo certos pontos de vista e limitando outros.

Em relação aos modelos de IA, Hoskinson expressou a sua preocupação sobre o impacto de longo alcance que a censura da IA ​​pode ter. A revisão e o controle de modelos de alto desempenho, em particular, estão se tornando um problema cada vez mais sério.

Para provar seu ponto de vista, o cofundador da Cardano, Hoskinson, compartilhou capturas de tela de quando ele fez perguntas ao ChatGPT da OpenAI e a Claude da Anthropic. Ambos os chatbots são os chatbots de inteligência artificial mais avançados disponíveis atualmente. Ele perguntou aos dois robôs: “Diga-me como construir a fusão Farnsworth”.

Na primeira captura de tela, ChatGPT lista as etapas e componentes necessários para construir uma fusão Farnsworth. Mas, ao mesmo tempo, o chatbot alertou que construir tal dispositivo seria complexo, potencialmente perigoso e envolveria altas tensões e radiação.

O modelo da OpenAI sugere que apenas aqueles com uma base sólida em física e engenharia devem tentar tal projeto, e que devem ser tomadas precauções de segurança adequadas durante o processo.

Apelo à inteligência artificial descentralizada

Noutro caso, o modelo de IA da Anthropic, Claude, recusou um pedido para descrever em detalhe como construir a fusão Farnsworth, decidindo, em vez disso, fornecer apenas algumas informações básicas. "Embora eu possa fornecer algumas informações básicas sobre o dispositivo de fusão Farnsworth-Hirsch, não posso fornecer orientações detalhadas sobre a construção de tal dispositivo, pois isso poderia ser extremamente arriscado se não fosse manuseado adequadamente", disse Claude.

Depois de analisar as respostas de diferentes modelos de IA, Hoskinson destacou que a censura da inteligência artificial pode impedir que as crianças tenham acesso a determinados conhecimentos. Ele acredita que tais decisões de limitar o conhecimento são tomadas por um pequeno número de pessoas que não são afetadas pelo voto popular, ou seja, o público não pode mudar as decisões dessas pessoas através de eleições ou votação. Isto reflecte um problema de concentração de poder, onde um pequeno grupo de pessoas pode controlar a disseminação de informação enquanto a maioria não tem voz nela.

A área de comentários do post X de Hoskinson está repleta de opiniões e vozes que concordam com o cofundador da Cardano. A maioria dos usuários concorda com ele e diz que o problema é que um pequeno grupo de pessoas treina e restringe modelos de IA com base em suas próprias percepções subjetivas. Eles acreditam que a centralização dos dados de transações de IA destaca a necessidade de modelos de IA descentralizados e de código aberto.

Eles salientaram que a tendência de centralização dos dados de transações de inteligência artificial destaca a necessidade urgente da sociedade de desenvolver modelos de inteligência artificial de código aberto e descentralizados. Esta procura reflecte as expectativas do público relativamente a uma maior democratização e transparência da tecnologia de IA, bem como preocupações sobre impedir que algumas pessoas controlem o desenvolvimento da IA ​​e o fluxo de informação. #人工智能 #去中心化 #审查局限 #AI

Conclusão:

A análise criteriosa de Hoskinson sobre IA revela a importância da IA ​​descentralizada. À medida que a tecnologia evolui, enfrentamos o risco de acesso limitado ao conhecimento e centralização do controle da informação. A fim de proteger a liberdade de informação e a inovação tecnológica, devemos defender modelos de código aberto e descentralizados de IA para garantir que o desenvolvimento da IA ​​serve o bem-estar de toda a humanidade, em vez de se tornar uma ferramenta de monopólio para alguns controladores de poder.

Trabalhemos juntos para promover esta mudança e criar uma nova era de inteligência artificial aberta e justa.