据深潮TechFlow报道，真格基金宣布向开源AI项目vLLM提供捐赠，以推动AI技术普及，让更多人受益。vLLM由加州大学伯克利分校的3人团队开发，是全球最受欢迎的开源大模型推理加速框架，支持包括Mistral、Llama等在内的30多个最新开源LLM，并兼容多种硬件架构。自去年6月开源以来，vLLM在GitHub上的星标数已突破21.8k。