Menurut Cointelegraph, perusahaan kecerdasan buatan OpenAI dan Anthropic telah sepakat untuk memberikan akses awal kepada US AI Safety Institute ke model AI baru yang signifikan yang dikembangkan oleh masing-masing perusahaan mereka. Kesepakatan ini, yang didorong oleh masalah keamanan bersama, membuat peran pasti pemerintah jika terjadi terobosan teknologi yang signifikan menjadi agak ambigu.
CEO dan salah satu pendiri OpenAI Sam Altman menekankan pentingnya kesepakatan ini dalam sebuah posting baru-baru ini di platform media sosial X, dengan menyatakan, “Kami senang telah mencapai kesepakatan dengan US AI Safety Institute untuk pengujian prarilis model-model kami di masa mendatang. Karena berbagai alasan, kami pikir penting bahwa hal ini terjadi di tingkat nasional. AS perlu terus memimpin!”
Baik OpenAI maupun Anthropic berfokus pada pengembangan kecerdasan umum buatan (AGI), suatu bentuk AI yang mampu melakukan tugas apa pun yang dapat dilakukan manusia, dengan sumber daya yang diperlukan. Setiap perusahaan memiliki piagam dan misinya sendiri yang ditujukan untuk menciptakan AGI secara aman dengan mengutamakan kepentingan manusia. Jika salah satu perusahaan berhasil, mereka akan menjadi penjaga utama teknologi canggih ini. Dengan menyetujui untuk membagikan model mereka dengan pemerintah AS sebelum peluncuran produk apa pun, kedua perusahaan secara efektif telah mengalihkan sebagian tanggung jawab ini kepada otoritas federal.
Seperti yang dilaporkan Cointelegraph baru-baru ini, OpenAI mungkin mendekati terobosan dengan proyek "Strawberry" dan "Orion" miliknya, yang dikatakan memiliki kemampuan penalaran tingkat lanjut dan metode baru untuk mengatasi masalah halusinasi AI. Pemerintah AS dilaporkan telah meninjau alat-alat ini dan iterasi awal ChatGPT yang menggabungkannya.
Sebuah posting blog dari Institut Standar dan Teknologi Nasional AS menunjukkan bahwa pedoman keselamatan yang terkait dengan perjanjian ini bersifat sukarela bagi perusahaan yang berpartisipasi. Para pendukung pendekatan regulasi yang ringan ini berpendapat bahwa pendekatan ini mendorong pertumbuhan dan memungkinkan sektor tersebut untuk mengatur diri sendiri. Para pendukung, termasuk Altman, memandang perjanjian ini sebagai model tentang bagaimana kerja sama antara pemerintah dan sektor korporat dapat saling menguntungkan.
Namun, ada kekhawatiran tentang potensi kurangnya transparansi yang terkait dengan regulasi yang longgar. Jika OpenAI atau Anthropic mencapai tujuan AGI mereka dan pemerintah memutuskan masyarakat tidak perlu diberi tahu, tampaknya tidak ada persyaratan hukum untuk pengungkapan.