O ex-membro da equipe de superalinhamento da OpenAI, William Saunders, revelou seus motivos para deixar a organização, fazendo uma analogia impressionante com o naufrágio do R.M.S. Titânico. Passando três anos na OpenAI, Saunders expressou suas preocupações em um episódio do podcast do jornalista de tecnologia Alex Kantrowitz, enfatizando sua convicção de que a OpenAI pode estar caminhando para uma catástrofe semelhante à triste jornada que o Titanic fez em 1912.
Saunders disse que seu trabalho na OpenAI muitas vezes o deixava se perguntando se a trajetória da empresa correspondia ao trágico colapso do Titanic ou ao sucesso do programa espacial Apollo. Embora o Titanic infelizmente tenha morrido devido a botes salva-vidas inadequados e outras preocupações de segurança negligenciadas, o programa Apollo, apesar das suas dificuldades, finalmente teve sucesso com esforços científicos diligentes.
OpenAI é o Titanic da IA
“Muito trabalho foi feito para tornar o navio seguro e construir compartimentos estanques para que pudessem dizer que era inafundável. Mas, ao mesmo tempo, não havia botes salva-vidas suficientes para todos”, observou Saunders, fazendo uma analogia direta com as operações da OpenAI. Ele criticou o espírito da empresa, que considerou priorizar o desenvolvimento de produtos em detrimento de precauções essenciais de segurança.
Saunders descreveu um ambiente na OpenAI onde os funcionários que expressavam preocupações de segurança eram marginalizados e a liderança parecia mais focada no lucro do que na implementação das medidas de segurança necessárias. “Com o tempo”, disse ele, “começou a parecer que as decisões tomadas pela liderança eram mais parecidas com a White Star Line construindo o Titanic”.
As críticas de Elon Musk ao OpenAI
Esta não é a primeira vez que a OpenAI enfrenta dissidências internas. Elon Musk, um dos cofundadores da OpenAI, recentemente abriu e retirou uma ação judicial contra a empresa, alegando que ela havia se desviado de sua missão original. Embora Musk não esteja envolvido com OpenAI há anos e agora administre uma empresa concorrente de IA, a xAI, suas preocupações ecoam os sentimentos de Saunders.
Da mesma forma, a empresa rival de IA Anthropic foi fundada em 2021 por ex-funcionários da OpenAI que estavam insatisfeitos com o foco da OpenAI na confiança e segurança. Por outro lado, Ilya Sutskever, outro cofundador distante e ex-cientista-chefe, deixou a OpenAI em maio de 2024 para iniciar seu próprio empreendimento, expressando confiança de que a OpenAI alcançaria seus objetivos com segurança.
Iceberg
Com vários desvios de alto nível e críticas comparando o caminho da OpenAI ao do Titanic, a questão premente permanece: quem ou o que é o iceberg?
Se considerarmos os passageiros na analogia do Titanic como toda a humanidade, então o iceberg poderia representar os riscos existenciais representados por sistemas avançados de IA como o ChatGPT para uma sociedade despreparada. O potencial da IA para superar a inteligência humana sem salvaguardas adequadas poderia levar a consequências desastrosas, semelhantes à falta de botes salva-vidas no Titanic.
A postagem Ex-funcionário da OpenAI chama a empresa de ‘Titanic of AI’ apareceu pela primeira vez em Últimas notícias e insights sobre Blockchain, criptomoeda e investimentos.