Model chatbot AI baru yang disebut "Reflection 70B" telah diluncurkan dan menjanjikan untuk memecahkan masalah yang mengganggu banyak model AI: halusinasi.

Penyetelan refleksi: belajar dari kesalahan

Model ini dilatih menggunakan “penyetelan refleksi”, sebuah teknik yang memungkinkan AI belajar dari dan memperbaiki kesalahan mereka.

Matt Shumer, CEO HyperWrite AI, menyebut Reflection 70B sebagai "model sumber terbuka terbaik di dunia". Ini dikembangkan berdasarkan Llama 3.1, model AI open source dari Meta, dan dikatakan mampu bersaing di beberapa benchmark dengan model tertutup seperti Claude 3.5 Sonnet dari Anthropic dan GPT-4o dari OpenAI.

Halusinasi: Masalah pada model AI

Halusinasi AI terjadi ketika chatbot AI melihat pola atau objek yang tidak ada atau tidak terlihat oleh pengamat manusia. Hal ini menyebabkan keluaran yang salah.

Penyetelan refleksi bertujuan untuk memecahkan masalah ini dengan memungkinkan AI mengenali dan memperbaiki kesalahan mereka sendiri sebelum memberikan respons.

Bagaimana cara kerja penyetelan refleksi?

AI menganalisis pengeluarannya sendiri dan belajar darinya. Ini mengidentifikasi kekuatan, kelemahan dan area yang dapat ditingkatkan. Proses ini diulangi, memungkinkan AI untuk terus meningkatkan kemampuannya dan menjadi lebih sadar akan pengeluarannya sendiri.

Pendekatan OpenAI untuk memerangi halusinasi

OpenAI, yang didukung oleh Microsoft, menerbitkan makalah penelitian pada tahun 2023 yang menyajikan ide-ide untuk mencegah halusinasi AI.

Salah satu idenya adalah "pemantauan proses", di mana model AI diberi penghargaan karena memberi penghargaan pada setiap langkah penalaran yang benar dalam menghasilkan jawaban, bukan hanya memberi penghargaan pada kesimpulan yang benar.

“Mendeteksi dan memitigasi kesalahan logika atau halusinasi model adalah langkah penting menuju pengembangan AGI [kecerdasan umum buatan] yang selaras,” kata Karl Cobbe, peneliti di OpenAI, kepada CNBC.

Refleksi 70B: Pendekatan yang menjanjikan

"Refleksi 70B" bisa menjadi langkah penting menuju model AI yang lebih andal dan akurat. Kemampuan untuk belajar dari kesalahan sangat penting dalam mengembangkan sistem AI yang benar-benar dapat memberikan manfaat bagi manusia.

#Reflection70B #News #Haberler #Noticias #Nachrichten