Byl odhalen nový model chatbota AI s názvem „Reflection 70B“ a slibuje, že vyřeší problém, který trápí mnoho modelů AI: halucinace.
Ladění odrazu: učení se z chyb
Model byl trénován pomocí „ladění odrazu“, což je technika, která umožňuje AI učit se a opravovat své chyby.
Matt Shumer, generální ředitel HyperWrite AI, nazývá Reflection 70B „nejlepším modelem s otevřeným zdrojovým kódem na světě“. Byl vyvinut na základě Llama 3.1, open source modelu umělé inteligence od Meta, a říká se, že je schopen konkurovat v několika benchmarcích uzavřeným modelům, jako je Anthropic's Claude 3.5 Sonnet a OpenAI's GPT-4o.
Halucinace: Problém pro modely AI
K halucinacím AI dochází, když AI chatbot vnímá vzory nebo předměty, které neexistují nebo jsou pro lidské pozorovatele nepostřehnutelné. To vede k nesprávnému výstupu.
Cílem ladění odrazu je tento problém vyřešit tím, že umělé inteligenci umožní rozpoznat a opravit své vlastní chyby před poskytnutím odpovědi.
Jak funguje ladění odrazu?
AI analyzuje své vlastní výdaje a učí se z nich. Identifikuje silné a slabé stránky a oblasti, které lze zlepšit. Tento proces se opakuje, což umožňuje AI neustále zlepšovat své schopnosti a lépe si uvědomovat své vlastní výdaje.
Přístup OpenAI k boji s halucinacemi
OpenAI, podporovaná Microsoftem, publikovala v roce 2023 výzkumný dokument, který představuje nápady, jak předcházet halucinacím AI.
Jednou z myšlenek je „monitorování procesu“, kde jsou modely umělé inteligence odměňovány za odměňování každého jednotlivého správného kroku uvažování při vytváření odpovědi, spíše než jen odměňování správného závěru.
"Detekce a zmírnění logických chyb nebo halucinací modelu je kritickým krokem k vývoji sladěného AGI [umělé obecné inteligence]," řekl CNBC Karl Cobbe, výzkumník z OpenAI.
Reflection 70B: Slibný přístup
„Reflection 70B“ by mohl být důležitým krokem ke spolehlivějším a přesnějším modelům umělé inteligence. Schopnost poučit se z chyb je zásadní pro vývoj systémů umělé inteligence, které mohou lidem skutečně prospět.
#Reflection70B #News #Haberler #Noticias #Nachrichten