OpenAI's Chief Scientist and Team Leader Resign Amidst Concerns Over Safety and Resource Allocation

Binance News · 2024-05-20T00:13:57.000Z

According to PANews, OpenAI's Chief Scientist, Ilya Sutskever, and one of the leaders of the Super Alignment Team, Jan Leike, have announced their resignations. OpenAI confirmed on the same day that the 'Super Intelligence Alignment Team', led by Sutskever and Leike, has been disbanded. In a series of 13 tweets on May 18, Leike revealed the real reasons behind his departure and shared more inside information. He cited insufficient computational resources and a lack of emphasis on safety by OpenAI as the main reasons. Leike stated that more resources and energy should be invested in preparing for the new generation of AI models, but the current development path cannot smoothly achieve this goal. His team faced significant challenges in the past few months, sometimes struggling to obtain enough computational resources. Leike also emphasized that creating machines that surpass human intelligence is full of risks. While OpenAI is taking on this responsibility, the safety culture and processes have been marginalized in the pursuit of product development. He stressed that OpenAI must transform into a company that prioritizes safety. In response to Leike's revelations, Sam Altman, CEO of OpenAI, expressed his gratitude for Leike's contributions to OpenAI in AI super alignment research and safety culture. He regretted Leike's departure and acknowledged that there is still much work to be done. Altman committed to advancing these tasks and promised to write a more detailed article discussing the issue in the coming days. TechCrunch reported on May 18 that OpenAI's decision to abandon safety research and launch new products like GPT-4o led to the resignation of the two leaders of the 'Super Alignment' team. It remains unclear when or if the tech industry will achieve the necessary breakthroughs to create artificial intelligence capable of performing any task a human can do. However, the dissolution of the 'Super Alignment' team seems to confirm that OpenAI's leadership, especially Altman, prioritizes products over safety measures. On May 19, Altman responded to rumors about 'gagging' resignation clauses on social media. He stated that the company has never reclaimed anyone's vested equity, even if they did not sign a resignation agreement or agree to a non-disparagement agreement.

Menurut PANews, Kepala Ilmuwan OpenAI, Ilya Sutskever, dan salah satu pemimpin Tim Super Alignment, Jan Leike, telah mengumumkan pengunduran diri mereka. OpenAI mengkonfirmasi pada hari yang sama bahwa 'Tim Penyelarasan Intelijen Super', yang dipimpin oleh Sutskever dan Leike, telah dibubarkan.
Dalam serangkaian 13 tweet pada tanggal 18 Mei, Leike mengungkapkan alasan sebenarnya di balik kepergiannya dan membagikan lebih banyak informasi orang dalam. Dia menyebutkan kurangnya sumber daya komputasi dan kurangnya penekanan pada keselamatan oleh OpenAI sebagai alasan utama. Leike menyatakan bahwa lebih banyak sumber daya dan energi harus diinvestasikan dalam mempersiapkan model AI generasi baru, namun jalur pengembangan saat ini tidak dapat mencapai tujuan ini dengan mulus. Timnya menghadapi tantangan besar dalam beberapa bulan terakhir, terkadang kesulitan mendapatkan sumber daya komputasi yang cukup.
Leike juga menegaskan, menciptakan mesin yang melampaui kecerdasan manusia penuh risiko. Meskipun OpenAI mengambil tanggung jawab ini, budaya dan proses keselamatan telah dipinggirkan dalam upaya pengembangan produk. Ia menekankan, OpenAI harus bertransformasi menjadi perusahaan yang mengutamakan keselamatan.
Menanggapi pengungkapan Leike, Sam Altman, CEO OpenAI, mengungkapkan rasa terima kasihnya atas kontribusi Leike terhadap OpenAI dalam penelitian penyelarasan super AI dan budaya keselamatan. Ia menyayangkan kepergian Leike dan mengakui masih banyak pekerjaan yang harus diselesaikan. Altman berkomitmen untuk memajukan tugas-tugas ini dan berjanji untuk menulis artikel yang lebih rinci membahas masalah ini dalam beberapa hari mendatang.
TechCrunch melaporkan pada tanggal 18 Mei bahwa keputusan OpenAI untuk meninggalkan penelitian keselamatan dan meluncurkan produk baru seperti GPT-4o menyebabkan pengunduran diri dua pemimpin tim 'Super Alignment'. Masih belum jelas kapan atau apakah industri teknologi akan mencapai terobosan yang diperlukan untuk menciptakan kecerdasan buatan yang mampu melakukan tugas apa pun yang dapat dilakukan manusia. Namun, pembubaran tim 'Super Alignment' nampaknya menegaskan bahwa pimpinan OpenAI, khususnya Altman, lebih mengutamakan produk daripada keselamatan.
Pada 19 Mei, Altman menanggapi rumor tentang klausul pengunduran diri yang 'tersumbat' di media sosial. Dia menyatakan bahwa perusahaan tidak pernah mengambil kembali ekuitas milik siapa pun, meskipun mereka tidak menandatangani perjanjian pengunduran diri atau menyetujui perjanjian non-penghinaan.

Jelajahi Konten Lainnya dari Kreator

Berita Terbaru