Pemerintah Inggris telah mengumumkan rencana untuk membuka kantor luar negeri pertama untuk AI Safety Institute di Amerika Serikat pada musim panas ini.
Baca juga: Peran Perjanjian Keamanan AI Inggris dan AS dalam Evolusi Teknologi
Dalam sebuah pernyataan yang diterbitkan Senin, Menteri Sains dan Teknologi Inggris Michelle Donelan mengatakan kantor baru di AS akan berlokasi di San Francisco. Kota ini menampung beberapa perusahaan AI terbesar, termasuk OpenAI, Anthropic, dan Inflection AI.
Inggris Ingin Memperkuat Kemitraan dengan AS dalam Keamanan AI
Kantor yang berbasis di AS ini akan merekrut tim staf teknis yang dipimpin oleh seorang Direktur Riset saat kantor tersebut mulai beroperasi akhir tahun ini. Kantor pusat Institut di London saat ini memiliki tim yang terdiri lebih dari 30 staf teknis.
Menteri Teknologi mengatakan perluasan Institut ini mewakili kepemimpinan Inggris di bidang AI dan akan menjalin kolaborasi erat dengan pemerintah AS.
Ini adalah momen penting dalam kemampuan Inggris untuk mempelajari risiko dan potensi AI dari sudut pandang global, memperkuat kemitraan kami dengan AS dan membuka jalan bagi negara-negara lain untuk memanfaatkan keahlian kami seiring kami terus memimpin dunia dalam bidang AI. keamanan.
Michelle Donelan, Sekretaris Sains dan Teknologi Inggris.
Donelan Mengatakan Institut Telah Berkembang Dari “Kekuatan Menjadi Kekuatan”
Pemerintah Inggris memperkenalkan AI Safety Institute pada bulan November 2023. Dikatakan bahwa tujuannya adalah untuk “meminimalkan kejutan bagi Inggris dan umat manusia dari kemajuan AI yang cepat dan tidak terduga.”
Baca juga: Pemerintah Inggris Umumkan Pembentukan AI Safety Institute
Institut ini terutama berfokus pada evaluasi sistem AI “perbatasan” dari sudut pandang keamanan nasional. Dengan langkah ini, pemerintah Inggris menyatakan akan mampu mengembangkan kebijakan dan respons peraturan yang efektif terhadap aplikasi AI yang diterapkan di yurisdiksinya.
Sejak Perdana Menteri dan saya mendirikan AI Safety Institute, AI Safety Institute telah berkembang semakin kuat hanya dalam waktu satu tahun.
Michelle Donelan, Sekretaris Sains dan Teknologi Inggris.
Institut Mempublikasikan Hasil Uji Modelnya
Institut Keamanan AI Inggris dilaporkan menjadi organisasi pertama yang didukung pemerintah yang mempublikasikan hasil uji keamanan model AI-nya. Institut tersebut menguji lima model bahasa besar yang tersedia untuk umum, meskipun tidak menyebutkan namanya secara spesifik.
Keamanan AI masih merupakan bidang yang sangat muda dan sedang berkembang. […] Ambisi kami adalah untuk terus mendorong kemajuan dalam bidang ini dengan mengembangkan evaluasi mutakhir, dengan penekanan pada risiko terkait keamanan nasional.
Ian Hogarth, Ketua Institut Keamanan AI Inggris.
Dikatakan bahwa beberapa model menyelesaikan tantangan keamanan sibernya. Namun, semuanya terbukti sangat rentan terhadap “jailbreak” dasar. Beberapa model memberikan hasil yang merugikan meskipun tidak ada upaya yang disengaja untuk menghindari upaya perlindungan.
Pelaporan Cryptopolitan oleh Ibiam Wayas
