深潮 TechFlow 消息，真格基金宣佈向開源 AI 項目 vLLM 提供捐贈。真格基金表示，捐贈旨在推動 AI 技術普及，讓更多人受益。
據悉，vLLM 由加州大學伯克利分校的 3 人團隊開發，是全球最受歡迎的開源大模型推理加速框架，支持包括 Mistral、Llama 等在內的 30 多個最新開源 LLM，併兼容多種硬件架構。自去年 6 月開源以來，vLLM 在 GitHub 上的星標數已突破 21.8k。
查看原文
LIVE
深潮 TechFlow 消息，真格基金宣佈向開源 AI 項目 vLLM 提供捐贈。真格基金表示，捐贈旨在推動 AI 技術普及，讓更多人受益。
據悉，vLLM 由加州大學伯克利分校的 3 人團隊開發，是全球最受歡迎的開源大模型推理加速框架，支持包括 Mistral、Llama 等在內的 30 多個最新開源 LLM，併兼容多種硬件架構。自去年 6 月開源以來，vLLM 在 GitHub 上的星標數已突破 21.8k。
