據深潮TechFlow報道，真格基金宣佈向開源AI項目vLLM提供捐贈，以推動AI技術普及，讓更多人受益。vLLM由加州大學伯克利分校的3人團隊開發，是全球最受歡迎的開源大模型推理加速框架，支持包括Mistral、Llama等在內的30多個最新開源LLM，併兼容多種硬件架構。自去年6月開源以來，vLLM在GitHub上的星標數已突破21.8k。