En un nuevo avance en el campo de la inteligencia artificial, OpenAI ha desarrollado un sistema innovador que se encarga de evaluar y detectar errores en el modelo de lenguaje GPT-4. Esta herramienta, conocida como CriticGPT, tiene como objetivo mejorar la precisión y confiabilidad de los resultados generados por la inteligencia artificial. A través de un proceso de retroalimentación continuo, CriticGPT analiza y corrige los errores cometidos por GPT-4, permitiendo una mayor exactitud y fiabilidad en la generación de texto. En este artículo, exploraremos en profundidad cómo funciona CriticGPT y qué implicaciones tiene este avance en el desarrollo de la inteligencia artificial.
CriticGPT: el modelo de OpenAI que corrige errores en ChatGPT y mejora su precisión
ChatGPT no es perfecto y, como el mismo avisa, puede cometer errores en sus respuestas. Por ello, desde OpenAI han desarrollado CriticGPT, un modelo basado en GPT-4 que va a ayudar a identificar errores en el código generado por el chatbot de la compañía. El objetivo será actuar como asistente para los entrenadores humanos que revisan el código generado por la tecnología de IA.
¿Cómo funciona CriticGPT?
Este modelo analiza el código y señala los posibles errores que pueden pasar desapercibidos para los humanos. Para que pueda detectarlos, los investigadores lo han entrenado con muestras de código con errores introducidos a propósito para que los reconozca y señale los fallos de codificación.
CriticGPT ha logrado ser muy efectivo para las personas en el proceso de identificar errores en las respuestas de ChatGPT. De hecho, las personas que recibieron su ayuda han superado en un 60% a las que realizaron el trabajo en solitario y el modelo está listo para seguir evolucionando.
La técnica de Búsqueda por Haz de Muestreo Forzado (FSBS)
Los investigadores también han creado una técnica denominada Búsqueda por Haz de Muestreo Forzado (FSBS) que ha ayudado a CriticGPT a redactar reseñas con mayor detalle y lo bueno es que se puede ajustar según necesidades.
Integración de modelos parecidos a CriticGPT
La compañía de Altman planea integrar modelos parecidos a CriticGPT basados en el refuerzo a partir de la retroalimentación humana (respuestas creadas por humanos) RLHF para ofrecer a los entrenadores asistencia de IA.
Limitaciones de CriticGPT
Hay que decir que, aunque los resultados sean alentadores, este modelo basado en GPT-4 también tiene sus limitaciones, ya que su entrenamiento se ha llevado a cabo con respuestas relativamente cortas del chatbot. Esto quiere decir que igual no está preparado para evaluar tareas largas y con mayor dificultad.
OpenAI ha anunciado que CriticGPT ya está listo para ser integrado en su pipeline de alineación RLHF para ayudar a los humanos a supervisar tareas difíciles.
Con la llegada de CriticGPT, OpenAI está un paso más cerca de lograr una mayor precisión y confiabilidad en sus modelos de lenguaje, lo que puede tener un gran impacto en la forma en que interactuamos con la inteligencia artificial en el futuro.
Deja una respuesta