Dario Amodei, o CEO da Anthropic, mencionou recentemente que as empresas de inteligência artificial devem passar por requisitos de testes obrigatórios. Isso também se aplica à sua própria empresa, a Anthropic. O objetivo é garantir que essas tecnologias sejam seguras para o público em geral antes de serem lançadas.
Amodei estava respondendo a uma pergunta em um cúpula de segurança de IA realizada recentemente em San Francisco pelos Departamentos de Comércio e Estado dos EUA. Em sua resposta, o CEO afirmou: “Acho que devemos absolutamente tornar os testes obrigatórios, mas também precisamos ter muito cuidado sobre como fazemos isso.”
Essas observações seguem um comunicado dos Institutos de Segurança de IA do Reino Unido e dos EUA que contêm os resultados dos testes do modelo Claude 3.5 Sonnet da Anthropic. Esses testes foram realizados em várias categorias que incluem aplicações biológicas e de cibersegurança. Anteriormente, tanto a OpenAI quanto a Anthropic concordaram em submeter seus modelos a agências governamentais.
Grandes empresas como a Anthropic seguem diretrizes de segurança autoimpostas.
Amodei mencionou que grandes empresas concordaram voluntariamente com certas diretrizes autoimpostas. Isso inclui a estrutura de prontidão da OpenAI e a política de escalonamento responsável da Anthropic. No entanto, ele acrescentou que mais trabalho é necessário para garantir a segurança.
“Não há nada para realmente verificar ou garantir que as empresas estão realmente seguindo esses planos na letra do espírito. Eles apenas disseram que o farão”, disse Amodei. Ele também acrescentou: “Acho que apenas a atenção pública e o fato de que os funcionários se importam criaram alguma pressão, mas eu realmente acho que isso não será suficiente.”
Amodei acredita que sistemas de IA poderosos têm a capacidade de superar os humanos mais inteligentes. Ele também pensa que esses sistemas podem estar disponíveis até 2026. Ele acrescenta que as empresas de IA ainda estão testando certos danos catastróficos e ameaças biológicas, nenhum dos quais é atualmente real. No entanto, esses testes hipotéticos podem se tornar uma realidade muito em breve.
Ele também alertou que os requisitos para testar sistemas de IA devem ser flexíveis, considerando o fato de que a tecnologia está em evolução. Em suas palavras, é um “problema sócio-político” muito difícil de resolver.
Um Sistema Passo-a-Passo Para Lançar Sua Carreira Web3 e Conseguir Empregos Altamente Remunerados em 90 Dias.