Chatbot pasar gelap telah menjadi salah satu tren terbaru yang muncul di sektor AI dan berkembang pesat karena model bahasa besar (LLM) yang jahat menghasilkan uang untuk pembuatnya.
Sebuah studi di Amerika menemukan bahwa terdapat pasar gelap AI yang berkembang pesat di mana LLM yang tidak terdaftar meraup untung besar dengan menjual layanan mereka secara gelap. Perusahaan yang terdaftar dan terbuka untuk umum seperti OpenAI, Perplexity, dan perusahaan besar lainnya yang menawarkan layanan yang sama memiliki ketentuan regulasi yang harus mereka patuhi.
LLM bawah tanah dapat menghindari antivirus
Studi tersebut, yang difokuskan terutama pada Malla, sebuah ekosistem yang tumbuh subur dengan memalsukan LLM hukum dan platform AI demi keuntungan, meneliti 212 LLM pasar gelap yang terdaftar di pasar gelap antara April dan Oktober 2023, untuk menilai atributnya.
Salah satu penulis, Zilong Lin dari Universitas Indiana, mengatakan:
“Kami menemukan bahwa sebagian besar layanan mala di forum bawah tanah ada terutama untuk mendapatkan keuntungan.”
Studi ini juga menemukan bahwa beberapa platform menghasilkan sebanyak $28.000 dalam dua bulan dari langganan dan pembelian dari orang-orang yang ingin lepas dari batasan AI yang diatur.
Beberapa, seperti DarkGPT dan EscapeGPT, hanyalah turunan jailbreak dari LLM berlisensi resmi yang digunakan secara legal.
Studi terpisah juga menunjukkan bahwa LLM terlarang ini dapat digunakan untuk banyak tugas, seperti membuat email phishing. Misalnya, DarkGPT dan EscapeGPT dapat membuat kode yang benar hampir 75% dari waktu, tetapi antivirus tidak dapat menemukan kode ini.
Model lain yang dikenal sebagai WolfGPT dilihat sebagai “pusat kekuatan” dalam membuat email phishing dan menghindari detektor spam.
Menurut Andrew Hundt, pakar inovasi komputasi di Universitas Carnegie Mello, pasar bawah tanah AI yang sedang berkembang pesat seharusnya menjadi penyebab kekhawatiran.
Ia menyerukan persyaratan hukum yang mengharuskan perusahaan yang mengembangkan LLM untuk memiliki sistem kuat yang mencegah replikasi oleh orang-orang dengan motif jahat.
“Kita juga memerlukan kerangka hukum untuk memastikan bahwa perusahaan yang menciptakan model-model ini dan menyediakan layanan melakukannya dengan lebih bertanggung jawab, dengan cara yang dapat mengurangi risiko yang ditimbulkan oleh pelaku kejahatan,” kata Hundt.
Memahami cara kerja chatbot pasar gelap adalah kuncinya
Profesor Xiaofeng Wang dari Universitas Indiana, yang menjadi bagian dari penelitian ini, mengatakan penting untuk memahami bagaimana LLM pasar gelap ini bekerja sehingga solusinya akan spesifik terhadap masalah yang diidentifikasi.
Profesor Wang menambahkan bahwa manipulasi LLM ini tidak dapat dihindari, yang menciptakan ruang bagi sektor ini untuk membuat pembatas yang kuat guna meminimalkan potensi bahaya yang ditimbulkan melalui serangan siber dalam segala bentuknya.
“Kami yakin sekarang adalah saat yang tepat untuk mulai mempelajari hal ini karena kami tidak ingin menunggu hingga kerusakan besar terjadi.”
Profesor Wang.
Menurut profesor itu, setiap teknologi, termasuk LLM, hadir dalam dua sisi: sisi baik dan sisi buruk.
Para pakar keamanan siber kini menghimbau industri AI untuk memperlambat lajunya dan memikirkan bahaya yang semakin besar dari teknologi mereka yang dipalsukan oleh komunitas internet anonim.
Sebuah artikel Forbes yang diterbitkan akhir tahun lalu mengatakan harus ada pengenalan ide-ide baru yang bertanggung jawab, terutama di sekitar LLM. Artikel itu juga menekankan peran regulasi dalam mempromosikan inovasi AI yang bertanggung jawab, tidak seperti kesalahpahaman bahwa regulasi menghambat pengembangan.
“Pengembang dan penyedia LLM perlu menghentikan perlombaan senjata yang bertujuan untuk menghasilkan model yang semakin kompleks dan sebagai gantinya harus bekerja sama dengan regulator dalam mengadopsi kerangka kerja untuk desain dan penggunaan aplikasi AI generatif yang etis,” sebagian isi laporan tersebut.
Sekarang, dengan celah regulasi, pasar gelap AI juga berkembang cepat menjadi industri bernilai jutaan dolar dan mungkin memerlukan sumber daya yang besar untuk mengendalikannya, menurut Fast Company.