據 Foresight News 報道，馬斯克在推特上宣佈，xAI 的 Grok 2 大模型將於 8 月推出，並將重點關注從互聯網培訓數據中「清掃」大語言模型（LLM）。
大型語言模型（LLM）是基於大量數據進行預訓練的超大型深度學習模型。底層轉換器是一組神經網絡，這些神經網絡由具有自注意力功能的編碼器和解碼器組成。編碼器和解碼器從一系列文本中提取含義，並理解其中的單詞和短語之間的關係。
轉換器 LLM 能夠進行無監督的訓練，但更精確的解釋是轉換器可以執行自主學習。通過此過程，轉換器可學會理解基本的語法、語言和知識。
