O cofundador da Ethereum, Vitalik Butertin, compartilhou sua opinião sobre inteligência artificial (IA) “superinteligente”, chamando-a de “arriscada” em resposta às mudanças contínuas de liderança na OpenAI.
Em 19 de maio, o Cointelegraph informou que o ex-chefe de alinhamento da OpenAI, Jan Leike, renunciou após dizer que havia atingido um “ponto de ruptura” com a administração nas principais prioridades da empresa.
Leike alegou que “a cultura e os processos de segurança ficaram em segundo plano em relação aos produtos brilhantes” na OpenAI, com muitos apontando para desenvolvimentos em torno da inteligência artificial geral (AGI).
Espera-se que a AGI seja um tipo de IA igual ou superior às capacidades cognitivas humanas — o que já começou a preocupar especialistas do setor, que dizem que o mundo não está devidamente equipado para gerenciar esses sistemas de IA superinteligentes.
Esse sentimento parece se alinhar com as visões de Buterin. Em um post no X, ele compartilhou seus pensamentos atuais sobre o tópico, enfatizando que não devemos nos apressar em agir ou revidar contra aqueles que tentam.
Fonte: Vitalik Buterin
Buterin enfatizou modelos abertos que rodam em hardware de consumo como uma “proteção” contra um futuro onde um pequeno conglomerado de empresas seria capaz de ler e mediar a maior parte do pensamento humano.
“Esses modelos também são muito menores em termos de risco de ruína do que a megalomania corporativa e os militares.”
Este é seu segundo comentário na última semana sobre IA e suas capacidades crescentes.
Em 16 de maio, ele argumentou que o modelo GPT-4 da OpenAI já excedeu o teste de Turing, que determina a “humanidade” de um modelo de IA. Ele citou uma nova pesquisa que afirma que a maioria dos humanos não consegue decifrar quando fala com uma máquina.
Relacionado: O novo recurso de recall ‘Black Mirror’ da Microsoft registra tudo o que você faz
No entanto, Buterin não é o primeiro a expressar essa preocupação. O governo do Reino Unido também examinou recentemente o envolvimento crescente da Big Tech no setor de IA, levantando questões relacionadas à competição e ao domínio do mercado.
Grupos como o 6079 AI já estão surgindo na internet, defendendo a IA descentralizada para garantir que ela permaneça mais democratizada e não dominada pelas Big Techs.
Fonte: 6079.ai
Isso ocorre após a saída de outro membro sênior da equipe de liderança da OpenAI em 14 de maio, quando Ilya Sutskever, cofundador e cientista-chefe, anunciou sua renúncia.
Sutskever não mencionou nenhuma preocupação sobre AGI. No entanto, em sua postagem no X, ele expressou confiança de que a OpenAI desenvolverá uma AGI que seja “segura e benéfica”.
Revista: ‘Sic AIs on each other’ para evitar o apocalipse da IA: David Brin, autor de ficção científica