Podle Cointelegraph byl HyperWrite AI představen nový chatbot s umělou inteligencí s názvem 'Reflection 70B'. Generální ředitel Matt Shumer oznámil vývoj 5. září a prohlásil, že jde o světově nejlepší open-source model. Umělá inteligence byla trénována pomocí techniky zvané „Reflection-Tuning“, která byla navržena tak, aby umožnila velkým jazykovým modelům (LLM) opravit své vlastní chyby.

Reflection Llama-3.1 70B, což je open-source AI společnosti Meta spuštěná v červenci, může podle Shumera konkurovat špičkovým uzavřeným modelům, jako je Anthropic's Claude 3.5 Sonnet a OpenAI's GPT-4o, v několika benchmarcích. Vysvětlil, že současné modely umělé inteligence často halucinují, což znamená, že generují nepřesné výstupy tím, že vnímají vzory nebo objekty, které neexistují. Reflection-Tuning si klade za cíl tento problém vyřešit tím, že umožňuje umělé inteligenci rozpoznat a opravit své chyby před dokončením odpovědi.

Reflexní ladění zahrnuje vkládání odpovědí umělé inteligence zpět do modelu a žádá ho, aby vyhodnotil své vlastní výstupy, aby identifikoval silné a slabé stránky a oblasti pro zlepšení. Tento iterativní proces pomáhá AI neustále zdokonalovat své schopnosti, díky čemuž je sebevědomější a lépe kritizuje a zlepšuje svůj výkon. Shumer poznamenal, že při správném nabádání je nový model vysoce účinný pro různé případy použití.

V roce 2023 vydala společnost OpenAI podporovaná Microsoftem výzkumný dokument pojednávající o metodách prevence halucinací AI. Jednou z navrhovaných myšlenek byl „dohled nad procesem“, který zahrnuje trénování modelů umělé inteligence, aby se odměňovaly za každý správný krok uvažování spíše než jen za konečný správný závěr. Karl Cobbe, výzkumník z OpenAI, zdůraznil důležitost odhalování a zmírňování logických chyb nebo halucinací jako kritického kroku k budování sladěné umělé obecné inteligence (AGI).