Cointelegraphによると、HyperWrite AIが「Reflection 70B」という新しい人工知能チャットボットを発表した。CEOのMatt Shumer氏は9月5日にこの開発を発表し、これが世界最高のオープンソースモデルだと主張した。このAIは、大規模言語モデル（LLM）が自身の間違いを修正できるように設計された「Reflection-Tuning」と呼ばれる技術を使用してトレーニングされた。

シュマー氏によると、7月にリリースされたMetaのオープンソースAIであるReflection Llama-3.1 70Bは、いくつかのベンチマークでAnthropicのClaude 3.5 SonnetやOpenAIのGPT-4oなどのトップのクローズドソースモデルと競合できるという。同氏は、現在のAIモデルは幻覚を起こすことが多く、存在しないパターンやオブジェクトを認識して不正確な出力を生成すると説明した。Reflection-Tuningは、AIが答えを確定させる前に間違いを認識して修正できるようにすることで、この問題に対処することを目指している。

リフレクション チューニングでは、AI の応答をモデルにフィードバックし、モデル自体の出力を評価して、長所、短所、改善点を特定するよう要求します。この反復プロセスにより、AI は継続的に機能を改良し、自己認識を高め、パフォーマンスの批評と改善をより適切に行うことができます。シュマー氏は、適切なプロンプトがあれば、新しいモデルはさまざまなユース ケースで非常に効果的であると指摘しました。

2023年、マイクロソフトが支援するOpenAIは、AIの幻覚を防ぐ方法を議論する研究論文を発表した。提案されたアイデアの1つは「プロセス監視」であり、これはAIモデルをトレーニングして、最終的な正しい結論だけでなく、推論の正しいステップごとに報酬を与えるというものである。OpenAIの研究者であるカール・コッベ氏は、整合性のある人工汎用知能（AGI）を構築するための重要なステップとして、論理的な間違いや幻覚を検出して軽減することの重要性を強調した。