Employees Claim OpenAI and Google DeepMind Hiding AI Risks

Cryptopolitan · 2024-06-05T23:03:02.000Z

Several current and former employees of OpenAI and Google DeepMind accused their companies of hiding AI risks that could potentially trigger human extinction. In an open letter, the workers alleged that AI firms are putting profit first while avoiding “effective [governmental] oversight.” Also read: OpenAI Lines up GPT-4 Successor Amid Safety Concerns The open letter was signed by 11 former employees of OpenAI, two from Google DeepMind, and endorsed by the ‘godfather of AI’ Geoffrey Hinton, formerly of Google. It said profit motives and regulatory loopholes allow companies to cover up threats posed by advanced artificial intelligence. AI could lead to ‘human extinction’ According to the letter, AI firms such as OpenAI and Google DeepMind, creator of Gemini, have not publicly shared information about the inadequate safeguards and risk levels of their systems because they are not required to do so. Without regulatory oversight, the AI programs could cause major harm to humans. The employees warned: “These risks range from the further entrenchment of existing inequalities… to the loss of control of autonomous AI systems potentially resulting in human extinction.” As noted by the letter’s signees, AI firms themselves have acknowledged these risks. In May 2023, the CEOs of OpenAI, Anthropic and Google DeepMind co-signed an open letter by the Center for AI Safety. The letter simply read, “Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks, such as pandemics and nuclear war.” AI companies have increasingly come under scrutiny for placing novel products and profit over safety and security. ChatGPT-maker OpenAI noted the concerns raised in the letter and said it is working to develop artificial intelligence that is safe. “We’re proud of our track record providing the most capable and safest A.I. systems and believe in our scientific approach to addressing risk,” OpenAI spokeswoman Lindsey Held told the New York Times. “We agree that rigorous debate is crucial given the significance of this technology, and we’ll continue to engage with governments, civil society and other communities around the world.” Whistleblowers fear retaliation The former OpenAI and Google employees said they would like to fill the oversight role while regulators work out laws that compel AI developers to publicly disclose more information about their programs. However, confidentiality agreements and the likelihood of retaliation by employers discourage workers from publicly voicing their concerns. Per the letter: “Some of us reasonably fear various forms of retaliation, given the history of such cases across the industry. We are not the first to encounter or speak about these issues.” Whistleblowers are protected by law in the U.S. but those speaking out about the dangers of artificial intelligence are not covered because the technology is not yet regulated. Also read: ChatGPT Still Spreads Falsehoods, Says EU Data Watchdog The letter called on AI companies to facilitate verifiably anonymous feedback, support a culture of open criticism and not retaliate against whistleblowers. AI researcher Lance B. Eliot said firms take a carrot-and-stick approach to criticism. Employees who do not speak out against risks are rewarded with job promotions and pay raises. On the other hand, whistleblowers and critics lose their stock options and may be forced out of the company and silently blacklisted by the AI leadership community. Cryptopolitan Reporting by Jeffrey Gogo

Diversi dipendenti attuali ed ex di OpenAI e Google DeepMind hanno accusato le loro aziende di nascondere i rischi dell’IA che potrebbero potenzialmente innescare l’estinzione umana. In una lettera aperta, i lavoratori hanno affermato che le aziende di intelligenza artificiale stanno mettendo al primo posto il profitto evitando “un’efficace supervisione [governativa]”.
Leggi anche: OpenAI allinea il successore di GPT-4 tra preoccupazioni sulla sicurezza
La lettera aperta è stata firmata da 11 ex dipendenti di OpenAI, due di Google DeepMind, e approvata dal “padrino dell’intelligenza artificiale” Geoffrey Hinton, ex Google. Ha affermato che le motivazioni del profitto e le scappatoie normative consentono alle aziende di nascondere le minacce poste dall’intelligenza artificiale avanzata.
L’intelligenza artificiale potrebbe portare all’estinzione umana
Secondo la lettera, aziende di intelligenza artificiale come OpenAI e Google DeepMind, creatrice di Gemini, non hanno condiviso pubblicamente informazioni sulle garanzie inadeguate e sui livelli di rischio dei loro sistemi perché non sono obbligate a farlo.
Senza un controllo normativo, i programmi di intelligenza artificiale potrebbero causare gravi danni agli esseri umani. I dipendenti hanno avvertito:
“Questi rischi vanno dall’ulteriore radicamento delle disuguaglianze esistenti… alla perdita di controllo dei sistemi di intelligenza artificiale autonomi, con conseguente potenziale estinzione umana”.
Come notato dai firmatari della lettera, le stesse aziende di intelligenza artificiale hanno riconosciuto questi rischi. Nel maggio 2023, i CEO di OpenAI, Anthropic e Google DeepMind hanno firmato una lettera aperta da parte del Center for AI Safety. La lettera diceva semplicemente: “Mitigare il rischio di estinzione dovuta all’intelligenza artificiale dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale, come le pandemie e la guerra nucleare”.
Le aziende di intelligenza artificiale sono sempre più sotto esame per aver anteposto nuovi prodotti e profitti alla sicurezza. OpenAI, produttore di ChatGPT, ha preso atto delle preoccupazioni sollevate nella lettera e ha affermato che sta lavorando per sviluppare un'intelligenza artificiale sicura.
“Siamo orgogliosi della nostra esperienza nel fornire l’A.I. più capace e sicura. sistemi e crediamo nel nostro approccio scientifico per affrontare il rischio”, ha detto al New York Times la portavoce di OpenAI Lindsey Held.
“Siamo d’accordo sul fatto che un dibattito rigoroso sia fondamentale data l’importanza di questa tecnologia, e continueremo a impegnarci con i governi, la società civile e altre comunità in tutto il mondo”.
Gli informatori temono ritorsioni
Gli ex dipendenti di OpenAI e Google hanno affermato che vorrebbero ricoprire il ruolo di supervisione mentre i regolatori elaborano leggi che obblighino gli sviluppatori di intelligenza artificiale a divulgare pubblicamente maggiori informazioni sui loro programmi.
Tuttavia, gli accordi di riservatezza e il rischio di ritorsioni da parte dei datori di lavoro scoraggiano i lavoratori dall’esprimere pubblicamente le proprie preoccupazioni. Secondo la lettera:
“Alcuni di noi temono ragionevolmente varie forme di ritorsione, data la storia di casi simili in tutto il settore. Non siamo i primi a incontrare o a parlare di questi problemi”.
Negli Stati Uniti gli informatori sono protetti dalla legge, ma coloro che denunciano i pericoli dell’intelligenza artificiale non sono coperti perché la tecnologia non è ancora regolamentata.
Leggi anche: ChatGPT diffonde ancora falsità, afferma il garante dei dati dell'UE
La lettera invita le società di intelligenza artificiale a facilitare un feedback anonimo e verificabile, a sostenere una cultura di critica aperta e a non compiere ritorsioni contro gli informatori.
Il ricercatore di intelligenza artificiale Lance B. Eliot ha affermato che le aziende adottano un approccio “bastone e carota” nei confronti delle critiche. I dipendenti che non si pronunciano contro i rischi vengono ricompensati con promozioni di lavoro e aumenti di stipendio.
D’altro canto, informatori e critici perdono le loro stock option e potrebbero essere costretti a lasciare l’azienda e inseriti silenziosamente nella lista nera dalla comunità dirigente dell’IA.
Reporting criptopolita di Jeffrey Gogo

I dipendenti affermano che OpenAI e Google DeepMind nascondono i rischi legati all'intelligenza artificiale

Scopri di più dal Creator

Ultime notizie