Organisasi riset kecerdasan buatan OpenAI memperkenalkan CriticGPT, model baru berdasarkan GPT-4, yang dirancang untuk mengidentifikasi dan memperbaiki kesalahan pada keluaran yang dihasilkan oleh kode ChatGPT.
Model baru ini dilatih secara khusus untuk menghasilkan kritik yang menunjukkan ketidakakuratan dalam jawaban yang diberikan oleh ChatGPT. Ini adalah salah satu model seri GPT-4 yang mendorong ChatGPT, dan fokus pada peningkatan kegunaan dan interaktivitasnya melalui metode yang disebut “Reinforcement Learning from Human Feedback” (RLHF). Pendekatan ini melibatkan pengumpulan peringkat pelatih AI dari berbagai tanggapan ChatGPT terhadap satu sama lain.
Seiring dengan kemajuan model AI besar seperti ChatGPT dalam penalaran dan perilaku, akurasinya meningkat, dan kesalahan menjadi lebih bernuansa. Evolusi ini menimbulkan tantangan bagi pelatih AI yang bertugas mengidentifikasi ketidakakuratan selama perbandingan RLHF. Tanpa alat yang canggih, mengevaluasi sistem ini akan menjadi suatu tantangan. OpenAI menekankan bahwa model CriticGPT bertujuan untuk mengatasi hal ini dengan menyediakan sarana untuk mengevaluasi keluaran dari sistem AI tingkat lanjut.
Menurut perusahaan, ketika pengguna menetapkan tugas ChatGPT seperti “menulis fungsi Python tertentu,” ChatGPT akan menghasilkan kode yang sesuai. Sementara itu, CriticGPT, ketika mengevaluasi salah satu kode yang dihasilkan dari ChatGPT, mungkin menyarankan alternatif yang lebih baik.
Namun, OpenAI mencatat bahwa saran CriticGPT tidak selalu akurat. Namun demikian, hal ini masih dapat membantu pelatih AI dalam mengidentifikasi lebih banyak masalah dalam jawaban yang dihasilkan model dibandingkan tanpa bantuan AI. Selain itu, ketika digunakan bersama dengan upaya manusia, CriticGPT meningkatkan kemampuan pengguna, sehingga menghasilkan kritik yang lebih menyeluruh dan lebih sedikit kesalahan halusinasi dibandingkan ketika model beroperasi secara independen.
OpenAI Bergabung Dengan Infrastruktur Oracle Cloud Untuk Mendukung Pengembangan Model AI
OpenAI didedikasikan untuk penelitian dan pengembangan di bidang kecerdasan umum buatan (AGI) dan model generatif, dan terkenal dengan chatbot-nya, ChatGPT. Saat ini, perusahaan tersebut dilaporkan sedang dalam proses mengembangkan versi terbarunya, ChatGPT-5.
Baru-baru ini, OpenAI telah bermitra dengan Oracle Cloud Infrastructure (OCI) untuk meningkatkan kemampuannya. Melalui kolaborasi ini, mereka akan memanfaatkan OCI Supercluster untuk pelatihan dan inferensi model AI generasi berikutnya.
Pos OpenAI Merilis Model CriticGPT yang Bertujuan Mengidentifikasi Ketidakakuratan Dalam Respons ChatGPT muncul pertama kali di Metaverse Post.
