V
vllm-project / vllm
AI 工具规格数值
状态持续维护
中文速览
| 发布方 | vllm-project |
|---|---|
| 源站收藏 | 88,573 |
资料来源：GitHub 工具/框架，以下正文为官方原始说明。
本条目的官方说明为英文，以下内容保留原文，关键章节标题已中文标注。
A high-throughput and memory-efficient inference and serving engine for LLMs
| 发布方 | vllm-project |
|---|---|
| 源站收藏 | 88,573 |
资料来源：GitHub 工具/框架，以下正文为官方原始说明。
本条目的官方说明为英文，以下内容保留原文，关键章节标题已中文标注。
A high-throughput and memory-efficient inference and serving engine for LLMs