lmdeploy

共 5 篇文章

排序

发布更新浏览点赞

lmdeploy v0.12.2 发布！全面支持 GLM5、Qwen3.5，性能与兼容性双升级，大模型部署再提速

lmdeploy v0.12.2 发布！全面支持 GLM5、Qwen3.5，性能与兼容性双升级，大模型部署再提速

lmdeploy新版发布

网易专栏 # AI # lmdeploy

5个月前

lmdeploy v0.12.3：视频输入、Qwen3.5、TurboMind 压缩张量、Ray 安全 API 等重大升级全面解析

lmdeploy v0.12.3：视频输入、Qwen3.5、TurboMind 压缩张量、Ray 安全 API 等重大升级全面解析

LMDeploy v0.12.3发布

网易专栏 # AI # lmdeploy

4个月前

lmdeploy v0.13.0 升级：支持新模型、新端点、TurboQuant、Anthropic兼容服务、Mixed Modality 与多项核心优…

lmdeploy v0.13.0 升级：支持新模型、新端点、TurboQuant、Anthropic兼容服务、Mixed Modality 与多项核心优…

lmdeploy v0.13.0发布

网易专栏 # AI # lmdeploy

3个月前

lmdeploy v0.14.0发布：FP8 KV Cache量化、Qwen3 Omni、OpenAI Responses接口、PPL端点全量升级解析

lmdeploy v0.14.0发布：FP8 KV Cache量化、Qwen3 Omni、OpenAI Responses接口、PPL端点全量升级解析

lmdeploy v0.14.0发布

网易专栏 # AI # lmdeploy

1个月前

lmdeploy v0.15.0发布：长上下文缓存、DeepSeek V4、MTP、TurboMind与服务能力全面升级

lmdeploy v0.15.0发布：长上下文缓存、DeepSeek V4、MTP、TurboMind与服务能力全面升级

lmdeploy v0.15.0发布

网易专栏 # AI # lmdeploy

5天前