Un nou model de chatbot AI numit „Reflection 70B” a fost dezvăluit și promite să rezolve o problemă care afectează multe modele AI: halucinațiile.

Acordarea reflecției: învățarea din greșeli

Modelul a fost antrenat utilizând „ajustarea reflexiei”, o tehnică care permite AI să învețe și să-și corecteze greșelile.

Matt Shumer, CEO HyperWrite AI, numește Reflection 70B „cel mai bun model open source din lume”. A fost dezvoltat pe baza Llama 3.1, un model open source AI de la Meta, și se spune că poate concura în mai multe benchmark-uri cu modele închise, cum ar fi Claude 3.5 Sonnet de la Anthropic și GPT-4o de la OpenAI.

Halucinații: O problemă pentru modelele AI

Halucinațiile AI apar atunci când un chatbot AI percepe modele sau obiecte care nu există sau sunt imperceptibile pentru observatorii umani. Acest lucru duce la o ieșire incorectă.

Ajustarea reflecției își propune să rezolve această problemă, permițând AI-urilor să recunoască și să-și corecteze propriile erori înainte de a oferi un răspuns.

Cum funcționează reglarea reflexiei?

AI își analizează propriile cheltuieli și învață din ele. Identifică punctele forte, punctele slabe și zonele care pot fi îmbunătățite. Acest proces se repetă, permițând AI să-și îmbunătățească în mod continuu capacitățile și să devină mai conștientă de propriile cheltuieli.

Abordarea OpenAI pentru combaterea halucinațiilor

OpenAI, susținut de Microsoft, a publicat o lucrare de cercetare în 2023 care prezintă idei pentru prevenirea halucinațiilor AI.

O idee este „monitorizarea procesului”, în care modelele AI sunt recompensate pentru recompensarea fiecărui pas corect de raționament în producerea unui răspuns, mai degrabă decât pentru recompensarea unei concluzii corecte.

„Detectarea și atenuarea erorilor logice sau halucinațiilor unui model este un pas critic către dezvoltarea AGI [inteligență generală artificială] aliniată”, a declarat Karl Cobbe, cercetător la OpenAI, pentru CNBC.

Reflection 70B: O abordare promițătoare

„Reflection 70B” ar putea fi un pas important către modele AI mai fiabile și mai precise. Capacitatea de a învăța din greșeli este crucială pentru dezvoltarea sistemelor AI care pot beneficia cu adevărat de oameni.

#Reflection70B #News #Haberler #Noticias #Nachrichten