O ex-CEO do Google, Eric Schmidt, alertou os desenvolvedores de inteligência artificial para controlarem seu teto de desenvolvimento. Ele também destacou a importância de os Estados Unidos vencerem a corrida em andamento da inteligência artificial (IA) contra a China.
Falando no programa This Week with George Stephanopoulos da ABC News no domingo, Schmidt alertou sobre o potencial dos sistemas de IA para operar de forma independente e até mesmo melhorar a si mesmos.
“Em breve poderemos ter computadores funcionando por conta própria, decidindo o que querem fazer”, disse Schmidt.
Schmidt: A IA não deve ser deixada sem controle
Schmidt reiterou os riscos de uma IA avançada se desenvolver sem controle, observando que sistemas capazes de autoaperfeiçoamento apresentam um perigo significativo.
“Quando o sistema pode se autoaperfeiçoar, precisamos pensar seriamente em desconectá-lo,” disse o ex-CEO do Google.
Quando Stephanopoulos perguntou a Schmidt se tais sistemas de IA poderiam contrabalançar os esforços para desligá-los, Schmidt respondeu: “Bem, em teoria, é melhor termos alguém com a mão no plugue—metaforicamente.”
Enquanto as preocupações sobre os riscos existenciais da IA estão crescendo, alguns especialistas argumentam que tais medos são exagerados. O professor Nick Jennings, vice-reitor de pesquisa no Imperial College London, está entre aqueles que descartam previsões apocalípticas.
Jennings argumenta que, enquanto a IA pode se destacar em tarefas específicas, criar sistemas com inteligência semelhante à humana em diversas áreas ainda está muito além das atuais capacidades dos cientistas.
“Desenvolver uma IA que execute uma única tarefa muito bem é alcançável,” explicou Jennings. “Mas construir uma IA geral que reflita a inteligência humana em múltiplos assuntos não é algo que podemos esperar no futuro próximo.”
Opiniões divergentes sobre as ameaças da IA
Enquanto isso, as preocupações persistem entre os principais pesquisadores de IA que alertam sobre os perigos representados por objetivos mal definidos e medidas de segurança inadequadas. O professor Stuart Russell da UC Berkeley e o pesquisador pós-doutoral Michael Cohen argumentam que sistemas de IA poderosos poderiam, em última análise, representar uma ameaça existencial para a humanidade se deixados sem controle.
Em um artigo de insights publicado no Science Journal, Russell e Cohen pediram uma supervisão mais rigorosa do desenvolvimento da IA. Eles enfatizaram a necessidade de as empresas de tecnologia provarem a segurança de seus sistemas de IA antes de lançá-los no mercado. Sem objetivos claros e salvaguardas robustas, sistemas avançados de IA poderiam agir contra os interesses humanos, argumentam.
“Se os objetivos dessas IAs entrarem em conflito com os dos humanos, isso pode resultar em desastre,” escreveram Russell e Cohen. Eles acreditam que as empresas de tecnologia devem ser responsabilizadas por garantir a segurança de seus sistemas e identificar “linhas vermelhas” críticas que a IA nunca deve cruzar.
Um debate crescente sobre a segurança da IA
O ritmo acelerado do avanço da IA já apresentou desafios, incluindo a disseminação de desinformação, polarização social e viés algorítmico. As preocupações sobre segurança e regulação ainda não acompanharam o desenvolvimento da tecnologia.
As observações de Schmidt refletem a crescente urgência entre os líderes da indústria para enfrentar esses desafios. Especialistas como Elon Musk há muito pedem regulamentos preventivos para mitigar os riscos da IA.
Musk, que uma vez descreveu a IA como o “maior risco que enfrentamos como civilização,” alertou que as autoridades fizeram pouco para enfrentar seus perigos. Da mesma forma, o físico Stephen Hawking temia que alcançar a singularidade, o ponto onde as máquinas superam a inteligência humana, pudesse deixar a humanidade incapaz de controlar sistemas avançados de IA.
Em sua entrevista, Hawking argumentou que, sem regulamentos, a IA poderia se tornar “ou a melhor ou a pior coisa a acontecer com a humanidade.”
A competição de IA entre os EUA e a China se intensifica
Schmidt observou que, embora os EUA tenham mantido uma liderança sobre a China no desenvolvimento de IA, a diferença diminuiu significativamente nos últimos seis meses. “A China alcançou um nível que é notável,” disse ele, descrevendo a situação atual como uma corrida de alto risco entre as duas superpotências.
“Há um ponto, talvez no próximo ano ou dois, onde os sistemas podem começar a fazer suas próprias pesquisas. Eles são chamados de cientistas da IA, em oposição a cientistas humanos. Então você passa de ter 1.000 cientistas humanos para um milhão de cientistas da IA. Eu acho que isso aumenta a inclinação, e quando você está se movendo a esse ritmo, é muito difícil para seus concorrentes alcançarem,” ele observou.
Schmidt acredita que a nova administração Trump priorizará a competitividade dos EUA em IA, o que ele vê como um passo positivo. “Enquanto os valores humanos forem preservados,” disse ele, “devemos estar bem.”
Um Sistema Passo a Passo para Lançar Sua Carreira Web3 e Conseguir Empregos Bem Pagos em Cripto em 90 Dias.