Foresight News'e göre Musk, Twitter'da xAI'nin Grok 2 büyük modelinin Ağustos ayında piyasaya sürüleceğini ve büyük dil modellerinin (LLM) İnternet eğitim verilerinden "temizlenmesine" odaklanacağını duyurdu.
Büyük dil modelleri (LLM), büyük miktarda veriye dayalı olarak önceden eğitilmiş çok büyük derin öğrenme modelleridir. Temel transformatör, kişisel dikkat yeteneklerine sahip kodlayıcılar ve kod çözücülerden oluşan bir dizi sinir ağıdır. Kodlayıcılar ve kod çözücüler bir dizi metinden anlam çıkarır ve içindeki kelimeler ve ifadeler arasındaki ilişkileri anlar.
Transformer LLM'ler denetimsiz eğitim yeteneğine sahiptir, ancak daha kesin bir yorum, transformatörlerin otonom öğrenme gerçekleştirebileceğidir. Bu süreç sayesinde dönüştürücü, temel dilbilgisini, dili ve bilgiyi anlamayı öğrenir.
