Mantan CEO Google Eric Schmidt telah memperingatkan para pengembang kecerdasan buatan untuk mengontrol batas pengembangan mereka. Dia juga menyoroti pentingnya Amerika Serikat memenangkan perlombaan kecerdasan buatan (AI) yang sedang berlangsung melawan China.
Berbicara di ABC News’ This Week dengan George Stephanopoulos pada hari Minggu, Schmidt memperingatkan tentang potensi sistem AI untuk beroperasi secara independen dan bahkan memperbaiki diri sendiri.
“Kami segera akan dapat memiliki komputer yang berjalan sendiri, memutuskan apa yang ingin mereka lakukan,” kata Schmidt.
Schmidt: AI tidak boleh dibiarkan tanpa pengawasan
Schmidt mengulangi risiko AI canggih yang berkembang tanpa pengawasan, mencatat bahwa sistem yang mampu perbaikan diri menghadirkan bahaya yang signifikan.
“Ketika sistem dapat memperbaiki diri sendiri, kita perlu serius berpikir tentang mencabutnya,” kata mantan CEO Google.
Ketika Stephanopoulos bertanya kepada Schmidt apakah sistem AI seperti itu dapat mengatasi upaya untuk mematikannya, Schmidt menjawab, “Yah, secara teori, kita lebih baik memiliki seseorang yang memegang colokan—secara metaforis.”
Sementara kekhawatiran tentang risiko eksistensial AI semakin meningkat, beberapa ahli berpendapat bahwa ketakutan tersebut dilebih-lebihkan. Profesor Nick Jennings, wakil rektor penelitian di Imperial College London, termasuk di antara mereka yang menolak ramalan kiamat.
Jennings berpendapat bahwa meskipun AI dapat unggul dalam tugas tertentu, menciptakan sistem dengan kecerdasan mirip manusia di berbagai bidang tetap jauh di luar kemampuan ilmuwan saat ini.
“Mengembangkan AI yang melakukan satu tugas dengan sangat baik adalah sesuatu yang dapat dicapai,” jelas Jennings. “Tetapi membangun AI umum yang mencerminkan kecerdasan manusia di berbagai subjek bukanlah sesuatu yang bisa kita harapkan dalam waktu dekat.”
Pendapat yang berbeda tentang ancaman AI
Sementara itu, kekhawatiran tetap ada di antara para peneliti AI terkemuka yang memperingatkan tentang bahaya yang ditimbulkan oleh tujuan yang tidak terdefinisi dengan baik dan langkah-langkah keamanan yang tidak memadai. Profesor UC Berkeley Stuart Russell dan peneliti pascadoktoral Michael Cohen berpendapat bahwa sistem AI yang kuat pada akhirnya dapat menimbulkan ancaman eksistensial bagi umat manusia jika dibiarkan tanpa pengawasan.
Dalam sebuah makalah wawasan yang diterbitkan di Science Journal, Russell dan Cohen menyerukan pengawasan yang lebih ketat terhadap pengembangan AI. Mereka menekankan perlunya perusahaan teknologi untuk membuktikan keamanan sistem AI mereka sebelum merilisnya ke pasar. Tanpa tujuan yang jelas dan langkah-langkah perlindungan yang kuat, sistem AI canggih dapat bertindak melawan kepentingan manusia, kata mereka.
“Jika tujuan AI ini bertentangan dengan tujuan manusia, itu bisa menjadi bencana,” tulis Russell dan Cohen. Mereka percaya bahwa perusahaan teknologi harus bertanggung jawab untuk memastikan keselamatan sistem mereka dan mengidentifikasi “garis merah” kritis yang tidak boleh dilanggar oleh AI.
Perdebatan yang semakin berkembang tentang keamanan AI
Kecepatan kemajuan AI yang cepat telah menghadirkan tantangan, termasuk penyebaran informasi yang salah, polarisasi masyarakat, dan bias algoritmik. Kekhawatiran tentang keselamatan dan regulasi belum dapat mengikuti perkembangan teknologi.
Pernyataan Schmidt mencerminkan semakin mendesaknya para pemimpin industri untuk mengatasi tantangan ini. Para ahli seperti Elon Musk telah lama menyerukan regulasi pencegahan untuk mengurangi risiko AI.
Musk, yang pernah menggambarkan AI sebagai “risiko terbesar yang kita hadapi sebagai peradaban,” memperingatkan bahwa pihak berwenang telah sedikit melakukan sesuatu untuk mengatasi bahayanya. Begitu juga, fisikawan Stephen Hawking khawatir bahwa mencapai singularitas, titik di mana mesin melampaui kecerdasan manusia dapat membuat umat manusia tidak mampu mengendalikan sistem AI canggih.
Dalam wawancaranya, Hawking berpendapat bahwa tanpa regulasi, AI dapat menjadi “baik atau buruk bagi umat manusia.”
Persaingan AI AS-China semakin intens
Schmidt mencatat bahwa meskipun AS sebelumnya memegang posisi terdepan atas China dalam pengembangan AI, jarak tersebut telah menyusut secara signifikan dalam enam bulan terakhir. “China telah mengejar dengan cara yang luar biasa,” katanya, menggambarkan situasi saat ini sebagai perlombaan berisiko tinggi antara dua kekuatan besar.
“Ada titik, mungkin dalam satu atau dua tahun ke depan, di mana sistem dapat mulai melakukan penelitian mereka sendiri. Mereka disebut ilmuwan AI, berbeda dengan ilmuwan manusia. Jadi Anda pergi dari memiliki 1.000 ilmuwan manusia menjadi satu juta ilmuwan AI. Saya rasa itu meningkatkan kemiringan, dan ketika Anda bergerak dengan kecepatan ini, sangat sulit bagi pesaing Anda untuk mengejar,” katanya.
Schmidt percaya bahwa pemerintahan Trump yang akan datang akan memprioritaskan daya saing AS dalam AI, yang dia lihat sebagai langkah positif. “Selama nilai-nilai manusia dilestarikan,” katanya, “kita seharusnya baik-baik saja.”
Sistem Langkah-Demi-Langkah untuk Memulai Karir Web3 Anda dan Mendapatkan Pekerjaan Crypto Bergaji Tinggi dalam 90 Hari.