Було представлено нову модель чат-бота штучного інтелекту під назвою «Reflection 70B», яка обіцяє вирішити проблему, яка мучить багатьох моделей ШІ: галюцинації.

Налаштування рефлексії: вчимося на помилках

Модель була навчена за допомогою «налаштування відображення», техніки, яка дозволяє штучному інтелекту вчитися на своїх помилках і виправляти їх.

Метт Шумер, генеральний директор HyperWrite AI, називає Reflection 70B «найкращою у світі моделлю з відкритим кодом». Він був розроблений на основі Llama 3.1, моделі ШІ з відкритим кодом від Meta, і, як кажуть, може конкурувати в кількох тестах із закритими моделями, такими як Claude 3.5 Sonnet від Anthropic і GPT-4o від OpenAI.

Галюцинації: проблема для моделей ШІ

Галюцинації штучного інтелекту виникають, коли чат-бот штучного інтелекту сприймає шаблони чи об’єкти, які не існують або непомітні для спостерігачів. Це призводить до неправильного виведення.

Налаштування відображення має на меті вирішити цю проблему, дозволяючи штучному інтелекту розпізнавати та виправляти власні помилки перед наданням відповіді.

Як працює налаштування відображення?

ШІ аналізує власні витрати та вчиться на цьому. Він визначає сильні та слабкі сторони та сфери, які можна покращити. Цей процес повторюється, що дозволяє штучному інтелекту постійно вдосконалювати свої можливості та ставати більш обізнаним про власні витрати.

Підхід OpenAI до боротьби з галюцинаціями

OpenAI за підтримки Microsoft у 2023 році опублікував дослідницьку статтю, в якій представлені ідеї щодо запобігання галюцинаціям ШІ.

Однією з ідей є «моніторинг процесів», коли моделі штучного інтелекту винагороджуються за кожен окремий правильний крок міркування для отримання відповіді, а не просто за правильний висновок.

«Виявлення та пом’якшення логічних помилок або галюцинацій моделі є критичним кроком до розвитку вирівняного AGI [штучного загального інтелекту]», — сказав CNBC Карл Коббе, дослідник OpenAI.

Відображення 70B: багатообіцяючий підхід

«Reflection 70B» може стати важливим кроком до більш надійних і точних моделей ШІ. Уміння вчитися на помилках має вирішальне значення для розробки систем штучного інтелекту, які справді можуть приносити користь людям.

#Reflection70B #News #Haberler #Noticias #Nachrichten