Capacidades Ocultas de Modelos de IA Reveladas por Pesquisadores

Pesquisas recentes da Harvard e da Universidade de Michigan descobriram capacidades ocultas em modelos de IA modernos que emergem cedo durante o treinamento, mas permanecem ocultas até que prompts específicos sejam dados. Essas descobertas desafiam métodos tradicionais de medir as capacidades da IA, sugerindo que os modelos podem possuir habilidades sofisticadas que só surgem sob certas condições. O estudo destaca a importância da transparência no desenvolvimento e na segurança da IA, uma vez que testes padrão podem subestimar o verdadeiro potencial desses modelos. Ao ajustar a apresentação dos dados de treinamento e usar técnicas alternativas de prompting, os pesquisadores foram capazes de extrair habilidades ocultas muito antes de serem detectáveis por meio de testes convencionais. Essa descoberta tem implicações significativas para a avaliação da IA e sugere a necessidade de protocolos de teste mais avançados para compreender e aproveitar totalmente as capacidades dos modelos de IA. Leia mais notícias geradas por IA em: https://app.chaingpt.org/news