Former OpenAI Scientist Ilya Sutskever Starts SSI for AI Safety

Baffic - Web3 and AI · 2024-06-20T08:52:19.000Z

Ilya Sutskever, co-founder and former chief scientist of OpenAI, along with former OpenAI engineer Daniel Levy and investor Daniel Gross, previously a partner at startup accelerator Y Combinator, have launched Safe Superintelligence, Inc. (SSI). The company, headquartered in Palo Alto and Tel Aviv, aims to advance artificial intelligence (AI) by prioritizing both safety and capabilities. In an online announcement on June 19, the founders emphasized their commitment: “From the outset, our focus remains unwavering on AI safety and capabilities. This singular focus ensures we are not distracted by management overhead or product cycles, while our business model shields safety, security, and progress from short-term commercial pressures.” Sutskever and Gross have long been advocates for AI safety. Sutskever departed OpenAI on May 14, following his involvement in the dismissal of CEO Sam Altman. His role at the company became ambiguous after he stepped down from the board upon Altman’s return. Shortly after Sutskever’s departure, Daniel Levy, along with several other researchers, also left OpenAI. Sutskever and Jan Leike co-led OpenAI’s Superalignment team, formed in July 2023 to explore methods for guiding and managing AI systems more intelligent than humans, known as artificial general intelligence (AGI). At its inception, OpenAI allocated 20% of its computing resources to support the Superalignment team. In May, Leike also left OpenAI to head a team at Anthropic, an AI startup backed by Amazon. Following the departure of its key researchers, OpenAI disbanded the Superalignment team. Greg Brockman, the company’s president, defended its safety protocols in a detailed post on X. Other prominent figures in the technology industry also share concerns Former OpenAI researchers, along with numerous scientists, express deep concerns about the future trajectory of AI. Vitalik Buterin, co-founder of Ethereum, labeled AGI as “risky” amidst the recent staff changes at OpenAI. However, he also noted that “such models pose much lower risks of doom compared to corporate megalomania and military applications.” Source: Ilya Sutskever Tesla CEO Elon Musk, formerly a supporter of OpenAI, and Apple co-founder Steve Wozniak joined over 2,600 tech leaders and researchers in calling for a six-month pause in the training of AI systems. They emphasized the need for humanity to reflect on the “profound risks” posed by these technologies. The post Former OpenAI Scientist Ilya Sutskever Starts SSI for AI Safety appeared first on Baffic.

Ilya Sutskever, co-fondatore ed ex capo scienziato di OpenAI, insieme all'ex ingegnere di OpenAI Daniel Levy e all'investitore Daniel Gross, in precedenza partner dell'acceleratore di startup Y Combinator, hanno lanciato Safe Superintelligence, Inc. (SSI). L’azienda, con sede a Palo Alto e Tel Aviv, mira a far avanzare l’intelligenza artificiale (AI) dando priorità sia alla sicurezza che alle capacità. In un annuncio online del 19 giugno, i fondatori hanno sottolineato il loro impegno:
“Fin dall’inizio, la nostra attenzione rimane costante sulla sicurezza e sulle capacità dell’IA. Questo focus unico garantisce che non siamo distratti dalle spese generali di gestione o dai cicli di prodotto, mentre il nostro modello di business protegge la sicurezza, la protezione e il progresso dalle pressioni commerciali a breve termine”.
Sutskever e Gross sono da tempo sostenitori della sicurezza dell’IA.
Sutskever ha lasciato OpenAI il 14 maggio, in seguito al suo coinvolgimento nel licenziamento del CEO Sam Altman. Il suo ruolo nella società è diventato ambiguo dopo che si è dimesso dal consiglio al ritorno di Altman. Poco dopo la partenza di Sutskever, anche Daniel Levy, insieme a molti altri ricercatori, lasciò OpenAI.
Sutskever e Jan Leike hanno co-guidato il team Superalignment di OpenAI, formato nel luglio 2023 per esplorare metodi per guidare e gestire sistemi di intelligenza artificiale più intelligenti degli umani, noti come intelligenza generale artificiale (AGI). All'inizio, OpenAI ha stanziato il 20% delle sue risorse informatiche per supportare il team di Superalignment.
A maggio, Leike ha lasciato OpenAI per dirigere un team presso Anthropic, una startup di intelligenza artificiale sostenuta da Amazon. In seguito alla partenza dei suoi ricercatori chiave, OpenAI ha sciolto il team di Superalignment. Greg Brockman, presidente dell’azienda, ha difeso i suoi protocolli di sicurezza in un post dettagliato su X.
Anche altre figure di spicco del settore tecnologico condividono le preoccupazioni
Ex ricercatori di OpenAI, insieme a numerosi scienziati, esprimono profonde preoccupazioni sulla traiettoria futura dell’IA. Vitalik Buterin, co-fondatore di Ethereum, ha etichettato AGI come "rischiosa" nel contesto dei recenti cambiamenti di personale presso OpenAI. Tuttavia, ha anche osservato che “tali modelli comportano rischi di rovina molto inferiori rispetto alla megalomania aziendale e alle applicazioni militari”.
Fonte: Ilya Sutskever
Il CEO di Tesla Elon Musk, ex sostenitore di OpenAI, e il co-fondatore di Apple Steve Wozniak si sono uniti a oltre 2.600 leader e ricercatori tecnologici nel chiedere una pausa di sei mesi nella formazione dei sistemi di intelligenza artificiale. Hanno sottolineato la necessità che l’umanità rifletta sui “profondi rischi” posti da queste tecnologie.
Il post L'ex scienziato OpenAI Ilya Sutskever avvia SSI per la sicurezza dell'intelligenza artificiale è apparso per la prima volta su Baffic.

Scopri di più dal Creator

Ultime notizie