围绕「模型部署」,找到更合适的工具与灵感。
点击标签继续筛选,可同时选择多个标签
多标签取交集,工具需满足全部已选标签。数字表示叠加该标签后的工具数量。
使用门槛、免费额度与授权方式。
工具最主要能完成的任务。
模型、框架、RAG、Agent、API 等特征。
网页版、桌面端、插件、本地部署或云服务。
模型系列、厂商生态或第三方平台。
暂未归入固定维度的补充标签。
vLLM 是开源的大模型推理和服务引擎,强调高吞吐、低内存占用和兼容 OpenAI 的服务接口。