La organización de investigación de inteligencia artificial OpenAI presentó CriticGPT, un nuevo modelo basado en GPT-4, diseñado para identificar y corregir errores en la salida generada por el código ChatGPT.
El nuevo modelo está específicamente entrenado para generar críticas que identifiquen imprecisiones en las respuestas proporcionadas por ChatGPT. Se encuentra entre la serie de modelos GPT-4 que impulsan ChatGPT y se centran en mejorar su utilidad e interactividad a través de un método llamado "Aprendizaje reforzado a partir de la retroalimentación humana" (RLHF). Este enfoque implica la recopilación de calificaciones de entrenadores de IA de varias respuestas de ChatGPT entre sí.
A medida que los grandes modelos de IA como ChatGPT avanzan en razonamiento y comportamiento, su precisión mejora y los errores se vuelven más matizados. Esta evolución plantea desafíos para los formadores de IA encargados de identificar imprecisiones durante las comparaciones RLHF. Sin herramientas mejoradas, evaluar estos sistemas puede ser un desafío. OpenAI enfatiza que el modelo CriticGPT tiene como objetivo abordar esto proporcionando un medio para evaluar los resultados de los sistemas avanzados de IA.
Según la empresa, cuando los usuarios asignan tareas de ChatGPT como "escribir una función Python específica", ChatGPT generará el código correspondiente. Mientras tanto, CriticGPT, al evaluar uno de los códigos generados por ChatGPT, puede sugerir una mejor alternativa.
Sin embargo, OpenAI señaló que las sugerencias de CriticGPT no siempre son precisas. Sin embargo, aún puede ayudar a los capacitadores de IA a identificar más problemas en las respuestas generadas por modelos de los que podrían sin la ayuda de la IA. Además, cuando se utiliza junto con el esfuerzo humano, CriticGPT mejora las capacidades de los usuarios, lo que genera críticas más exhaustivas y menos errores alucinados en comparación con cuando el modelo funciona de forma independiente.
OpenAI une fuerzas con Oracle Cloud Infrastructure para impulsar el desarrollo de modelos de IA
OpenAI se dedica a la investigación y el desarrollo en el campo de la inteligencia artificial general (AGI) y los modelos generativos, y es conocido por su chatbot, ChatGPT. Actualmente, la empresa está en proceso de desarrollar su última versión, ChatGPT-5.
Recientemente, OpenAI se ha asociado con Oracle Cloud Infrastructure (OCI) para mejorar sus capacidades. A través de esta colaboración, aprovechará el OCI Supercluster para el entrenamiento y la inferencia de sus modelos de IA de próxima generación.
La publicación OpenAI lanza el modelo CriticGPT destinado a identificar imprecisiones en las respuestas de ChatGPT apareció por primera vez en Metaverse Post.
