UNESCO telah menyatakan keprihatinannya mengenai AI generatif yang berpotensi memutarbalikkan sejarah Holocaust jika pengembang AI tidak menerapkan standar etika secara ketat.
Dalam sebuah laporan yang dirilis Senin, UNESCO memperingatkan potensi penyalahgunaan AI generatif oleh pihak-pihak yang tidak bertanggung jawab.
Kerentanan generasi muda terhadap misinformasi
Laporan tersebut, yang diterbitkan dalam kemitraan dengan Kongres Yahudi Dunia, menekankan bahwa generasi muda sangat rentan menerima informasi yang menyimpang karena penggunaan teknologi baru seperti AI secara ekstensif. Laporan tersebut menyoroti bahwa sekitar 80% individu berusia 10 hingga 24 tahun menggunakan AI untuk berbagai tugas, termasuk tugas sekolah. Paparan yang tinggi ini meningkatkan peluang mereka menemukan informasi yang menyimpang.
Direktur Jenderal UNESCO Audrey Azoulay menyatakan, “Jika kita membiarkan fakta mengerikan Holocaust dilemahkan, diubah, atau dipalsukan melalui penggunaan AI yang tidak bertanggung jawab, kita berisiko menyebarkan antisemitisme secara eksplosif dan secara bertahap mengurangi pemahaman kita tentang penyebab dan konsekuensinya. kekejaman ini.”
Laporan tersebut juga mencatat bahwa AI cenderung terlalu menyederhanakan peristiwa sejarah yang kompleks, dan sering kali hanya mengutamakan sumber yang terbatas. Misalnya, antara 60% dan 80% hasil gambar teratas mesin pencari yang didukung AI untuk Holocaust hanya menampilkan satu situs, Auschwitz-Birkenau.
Potensi AI untuk melanggengkan bias
Laporan UNESCO memperingatkan bahwa AI dapat melanggengkan bias yang sudah ada, dan Holocaust juga tidak terkecuali dari risiko ini. Menurut UNESCO, disinformasi mengenai Holocaust sudah lazim dan mungkin akan bertambah parah seiring dengan penggunaan AI generatif.
Azoulay menekankan perlunya menegakkan standar etika untuk melindungi generasi muda dari menerima informasi yang menyimpang. “Penerapan Rekomendasi UNESCO tentang Etika AI sangatlah mendesak agar generasi muda tumbuh dengan fakta, bukan rekayasa,” kata Azoulay.
Laporan tersebut menyoroti insiden di mana model AI seperti ChatGPT OpenAI dan Bard Google, yang sekarang disebut Gemini, telah mengarang peristiwa terkait Holocaust. Model-model ini “berhalusinasi” tentang Holocaust, merinci peristiwa-peristiwa fiktif seperti kampanye Nazi di mana orang-orang Yahudi ditenggelamkan di sungai dan danau. Selain itu, model AI telah menghasilkan kutipan palsu untuk mendukung narasi yang menyimpang ini.
Menyerukan standar etika AI
Laporan UNESCO menyerukan tindakan segera untuk menegakkan standar etika dalam pengembangan AI. Organisasi ini menganjurkan pendekatan multi-pemangku kepentingan untuk mengatasi tantangan ini, dengan menekankan pentingnya penerapan Rekomendasi Etika AI, yang diadopsi oleh negara-negara anggota UNESCO pada tahun 2021.
UNESCO juga mendesak perusahaan teknologi untuk menghormati prinsip keadilan, transparansi, hak asasi manusia, dan uji tuntas dalam proses pengembangan AI mereka. Pada bulan Februari, delapan perusahaan teknologi menandatangani komitmen kepada Direktur Jenderal UNESCO, berjanji untuk menerapkan pendekatan etis dalam mengembangkan model AI mereka.
Laporan tersebut menekankan bahwa kemampuan AI untuk mengarang dan memutarbalikkan peristiwa sejarah, seperti Holocaust, menimbulkan risiko yang signifikan. UNESCO menekankan bahwa AI generatif dapat menjadi alat untuk menyebarkan informasi yang salah dan melanggengkan bias yang merugikan tanpa pedoman dan pengawasan etika yang ketat.
Kepedulian UNESCO menyoroti perlunya kewaspadaan dan tanggung jawab dalam mengembangkan dan menerapkan teknologi AI. Seruan aksi organisasi ini bertujuan untuk memastikan bahwa ingatan akan Holocaust dan peristiwa bersejarah lainnya tetap akurat dan dihormati, serta melindungi generasi mendatang dari bahaya misinformasi.
Urgensi penerapan standar etika dalam pengembangan AI tidak dapat dilebih-lebihkan. Rekomendasi UNESCO mengenai Etika AI memberikan kerangka kerja untuk memastikan bahwa teknologi AI dikembangkan dan digunakan secara bertanggung jawab. Kerangka kerja ini mencakup prinsip-prinsip seperti keadilan, transparansi, dan penghormatan terhadap hak asasi manusia, yang penting dalam mencegah penyebaran misinformasi dan disinformasi.
Laporan UNESCO mengingatkan kita akan peran penting standar etika dalam pengembangan AI. Dengan mematuhi standar-standar ini, pengembang dapat membantu mencegah distorsi peristiwa sejarah dan melindungi integritas informasi yang diakses oleh generasi muda dan masyarakat umum.
Pos AI Peduli UNESCO Dapat Mendistorsi Memori Holocaust pertama kali muncul di Coinfea.
