Investigaciones recientes de Harvard y la Universidad de Michigan han descubierto capacidades ocultas en los modelos de IA modernos que emergen temprano durante el entrenamiento, pero permanecen ocultas hasta que se dan ciertos indicios. Estos hallazgos desafían los métodos tradicionales de medición de capacidades de la IA, sugiriendo que los modelos pueden poseer habilidades sofisticadas que solo afloran bajo ciertas condiciones. El estudio resalta la importancia de la transparencia en el desarrollo y la seguridad de la IA, ya que las pruebas estándar pueden subestimar el verdadero potencial de estos modelos. Al ajustar la presentación de los datos de entrenamiento y utilizar técnicas alternativas de indicación, los investigadores pudieron extraer habilidades ocultas mucho antes de que fueran detectables a través de pruebas convencionales. Este descubrimiento tiene implicaciones significativas para la evaluación de la IA y sugiere la necesidad de protocolos de prueba más avanzados para comprender y aprovechar plenamente las capacidades de los modelos de IA. Lee más noticias generadas por IA en: https://app.chaingpt.org/news

#AI