Byl odhalen nový model chatbota AI s názvem „Reflection 70B“ a slibuje, že vyřeší problém, který trápí mnoho modelů AI: halucinace.

Ladění odrazu: učení se z chyb

Model byl trénován pomocí „ladění odrazu“, což je technika, která umožňuje AI učit se a opravovat své chyby.

Matt Shumer, generální ředitel HyperWrite AI, nazývá Reflection 70B „nejlepším modelem s otevřeným zdrojovým kódem na světě“. Byl vyvinut na základě Llama 3.1, open source modelu umělé inteligence od Meta, a říká se, že je schopen konkurovat v několika benchmarcích uzavřeným modelům, jako je Anthropic's Claude 3.5 Sonnet a OpenAI's GPT-4o.

Halucinace: Problém pro modely AI

K halucinacím AI dochází, když AI chatbot vnímá vzory nebo předměty, které neexistují nebo jsou pro lidské pozorovatele nepostřehnutelné. To vede k nesprávnému výstupu.

Cílem ladění odrazu je tento problém vyřešit tím, že umělé inteligenci umožní rozpoznat a opravit své vlastní chyby před poskytnutím odpovědi.

Jak funguje ladění odrazu?

AI analyzuje své vlastní výdaje a učí se z nich. Identifikuje silné a slabé stránky a oblasti, které lze zlepšit. Tento proces se opakuje, což umožňuje AI neustále zlepšovat své schopnosti a lépe si uvědomovat své vlastní výdaje.

Přístup OpenAI k boji s halucinacemi

OpenAI, podporovaná Microsoftem, publikovala v roce 2023 výzkumný dokument, který představuje nápady, jak předcházet halucinacím AI.

Jednou z myšlenek je „monitorování procesu“, kde jsou modely umělé inteligence odměňovány za odměňování každého jednotlivého správného kroku uvažování při vytváření odpovědi, spíše než jen odměňování správného závěru.

"Detekce a zmírnění logických chyb nebo halucinací modelu je kritickým krokem k vývoji sladěného AGI [umělé obecné inteligence]," řekl CNBC Karl Cobbe, výzkumník z OpenAI.

Reflection 70B: Slibný přístup

„Reflection 70B“ by mohl být důležitým krokem ke spolehlivějším a přesnějším modelům umělé inteligence. Schopnost poučit se z chyb je zásadní pro vývoj systémů umělé inteligence, které mohou lidem skutečně prospět.

#Reflection70B #News #Haberler #Noticias #Nachrichten