По данным Cointelegraph, HyperWrite AI представила новый чат-бот с искусственным интеллектом под названием «Reflection 70B». Генеральный директор Мэтт Шумер объявил о разработке 5 сентября, заявив, что это лучшая в мире модель с открытым исходным кодом. ИИ был обучен с использованием техники под названием «Reflection-Tuning», разработанной для того, чтобы позволить большим языковым моделям (LLM) исправлять собственные ошибки.
Reflection Llama-3.1 70B, ИИ с открытым исходным кодом от Meta, запущенный в июле, может конкурировать с ведущими моделями с закрытым исходным кодом, такими как Claude 3.5 Sonnet от Anthropic и GPT-4o от OpenAI в нескольких бенчмарках, по словам Шумера. Он объяснил, что текущие модели ИИ часто галлюцинируют, то есть генерируют неточные результаты, воспринимая шаблоны или объекты, которых не существует. Reflection-Tuning направлен на решение этой проблемы, позволяя ИИ распознавать и исправлять свои ошибки перед окончательным ответом.
Настройка рефлексии включает в себя подачу ответов ИИ обратно в модель, прося ее оценить собственные результаты для выявления сильных и слабых сторон, а также областей для улучшения. Этот итеративный процесс помогает ИИ постоянно совершенствовать свои возможности, делая его более самосознательным и лучше критикующим и улучшающим свою производительность. Шумер отметил, что при правильном подсказке новая модель очень эффективна для различных вариантов использования.
В 2023 году поддерживаемая Microsoft организация OpenAI опубликовала исследовательскую работу, в которой обсуждались методы предотвращения галлюцинаций ИИ. Одной из предложенных идей было «контроль процесса», который подразумевает обучение моделей ИИ вознаграждать себя за каждый правильный шаг рассуждения, а не только за окончательное правильное заключение. Карл Коббе, исследователь из OpenAI, подчеркнул важность обнаружения и смягчения логических ошибок или галлюцинаций как важнейшего шага на пути к созданию согласованного общего искусственного интеллекта (AGI).
