CEO OpenAI, Sam Altman, telah mengundurkan diri dari Komite Keselamatan dan Keamanan internal perusahaan, sebuah kelompok yang dibentuk pada bulan Mei untuk mengawasi keputusan keselamatan yang penting. Kepergian Altman terjadi pada saat anggota parlemen AS dan mantan karyawan OpenAI menyuarakan kekhawatiran atas keselamatan dan kepatuhan hukum perusahaan.
Komite Keamanan dan Keselamatan kini akan bekerja sebagai komite tingkat dewan terpisah yang memantau masalah keamanan dan keselamatan. Perubahan ini telah menunjuk Zico Kolter, seorang profesor dari Universitas Carnegie Mellon, sebagai ketuanya, bersama CEO Quora Adam D'Angelo, pensiunan Jenderal Angkatan Darat AS Paul Nakasone, dan mantan eksekutif Sony Nicole Seligman. Semuanya adalah anggota dewan OpenAI saat ini. Kelompok tersebut masih akan memiliki kewenangan untuk menahan rilis model AI hingga masalah keamanan diselesaikan.
Para kritikus mempertanyakan prioritas OpenAI saat staf kuncinya hengkang
Dalam sebuah posting blog setelah kepergian Altman, OpenAI menegaskan kembali fokusnya pada keselamatan dan mencatat bahwa komite sebelumnya telah menyetujui keselamatan model terbaru, o1. Kelompok tersebut juga akan secara berkala menerima informasi lebih lanjut dari personel keselamatan dan keamanan perusahaan untuk terus memperbarui dan memberi informasi kepada para anggota tentang rilis model AI mendatang. OpenAI juga menyatakan bahwa mereka bermaksud untuk meningkatkan langkah-langkah keselamatan dengan mengadopsi tinjauan teknis dan tujuan yang dijabarkan dengan baik untuk peluncuran model.
Hal ini muncul setelah munculnya kritik, terutama dari lima senator AS yang menyatakan kekhawatiran atas langkah-langkah keselamatan perusahaan tersebut pada musim panas. Kritikus juga mencatat bahwa lebih dari separuh staf yang bertugas menangani konsekuensi jangka panjang AI telah meninggalkan perusahaan. Beberapa mengatakan bahwa Altman lebih peduli dengan aspek bisnis AI daripada regulasi teknologi tersebut.
Pengeluaran OpenAI terus meningkat. Pada paruh pertama tahun 2024, perusahaan tersebut menghabiskan $800.000 untuk lobi federal, yang merupakan peningkatan signifikan dibandingkan dengan $260.000 yang dihabiskan untuk keseluruhan tahun 2023. Awal tahun ini, Altman menjadi anggota Dewan Keamanan dan Keselamatan Kecerdasan Buatan Departemen Keamanan Dalam Negeri AS. Komite tersebut seharusnya memberi saran tentang penggunaan AI dalam sistem penting negara tersebut.
Masih ada pertanyaan mengenai regulasi mandiri raksasa AI tersebut. Dalam sebuah opini untuk The Economist, mantan anggota dewan OpenAI Helen Toner dan Tasha McCauley telah menyuarakan keraguan tentang kemampuan perusahaan untuk mengawasi dirinya sendiri. Mereka mengklaim bahwa insentif laba dapat merusak tata kelola mandiri OpenAI, yang menurut mereka dapat bertentangan dengan tujuan keselamatan jangka panjang.
OpenAI mencari pendanaan besar dan berencana beralih ke model nirlaba
OpenAI dikabarkan tengah berdiskusi untuk mengamankan pendanaan baru yang besar yang dapat mendorong valuasinya menjadi $150 miliar. Dalam laporan terbaru oleh Cryptopolitan, OpenAI berencana untuk mengamankan $6,5 miliar dari investor pada valuasinya saat ini. OpenAI dikabarkan berencana untuk mengubah model operasionalnya saat ini menjadi model tradisional yang mencari laba pada tahun 2025.
CEO OpenAI Sam Altman mengungkapkan perubahan tersebut kepada staf selama rapat baru-baru ini, tetapi tidak mengungkapkan banyak hal tentang apa yang diharapkan. Altman mengatakan perusahaan telah "berkembang terlalu besar" untuk struktur saat ini dan siap untuk menjauh dari model nirlaba.
