ollama v0.40.5发布：Nemotron 3.5 Super上线，支持1M上下文、视觉理解、工具调用与云端决策模型

2026年10月16日，Ollama 发布 v0.40.5 版本。本次更新的核心亮点，是正式带来 NVIDIA Nemotron 3.5 Super，并同步加入更紧凑的 Nemotron 3.5 Bolt 相关信息。同时，云端决策模型、OpenAI 兼容 Responses 对话续接、云端访问报错提示，以及 llama.cpp 与 MLX 的更新，也都成为此次版本升级的重要组成部分。

对于关注编码、推理、工具调用、文档理解、视觉语言模型以及超长上下文能力的用户来说，ollama v0.40.5 带来了值得重点关注的更新内容。

一、ollama v0.40.5 发布信息

本次发布版本为：

v0.40.5 Latest

发布日期为：

2026年10月16日

此次版本更新围绕模型能力、云端模型访问、对话兼容性、错误提示与底层组件更新展开。其中最受关注的内容，是 NVIDIA Nemotron 3.5 Super 的加入。

二、NVIDIA Nemotron 3.5 Super 正式上线

NVIDIA Nemotron 3.5 Super 是一款视觉语言模型，面向编码、推理、工具使用和文档理解等任务。

该模型支持的能力包括：

• 编码

• 推理

• 工具调用

• 文档理解

• 视觉语言任务

• 可开关的思考模式

• 最长 1M tokens 上下文

从模型定位来看，Nemotron 3.5 Super 不只是单一文本任务模型，而是覆盖视觉、代码、推理、工具与文档内容理解的视觉语言模型。

在模型结构方面，Nemotron 3.5 Super 使用了混合架构：

120B 参数的混合 Mamba-2/Transformer 混合专家骨干网络

该模型的总参数规模为 120B，但每个 token 的活跃参数为 12B。

也就是说，其模型信息包括：

项目

内容

模型名称

NVIDIA Nemotron 3.5 Super

模型类型

视觉语言模型

总参数规模

120B

每个 token 活跃参数

12B

骨干结构

混合 Mamba-2/Transformer 混合专家架构

视觉编码器

C-RADIO

上下文长度

最长 1M tokens

工具调用

支持

思考模式

支持开启或关闭

主要任务

编码、推理、工具使用、文档理解

该模型搭配 C-RADIO 视觉编码器，使其具备视觉语言任务能力。

在 Ollama 中运行该模型，可使用以下命令：

ollama run nemotron-3.5-super

这意味着，在 v0.40.5 版本中，用户可以通过上述模型名称启动 Nemotron 3.5 Super。

三、Nemotron 3.5 Super 的能力重点

Nemotron 3.5 Super 的能力覆盖多个方向，其中包括编码、推理、工具调用和文档理解。

1. 编码能力

Nemotron 3.5 Super 被定位为可用于编码的视觉语言模型。对于需要代码相关能力的场景，该模型提供了编码支持。

2. 推理能力

该模型支持推理任务，并且提供思考模式的开启与关闭选项。

这一能力在版本信息中被明确描述为：

on/off thinking mode

即思考模式可以开启，也可以关闭。

3. 工具调用能力

Nemotron 3.5 Super 支持工具调用。

工具调用是该模型明确支持的能力之一，与编码、推理和文档理解共同构成其核心能力范围。

4. 文档理解能力

该模型支持文档理解。

在本次版本介绍中，文档理解与视觉语言、编码、推理、工具调用并列出现，说明 Nemotron 3.5 Super 面向的任务类型不局限于纯文本生成。

5. 视觉语言能力

Nemotron 3.5 Super 是视觉语言模型，并搭配 C-RADIO 视觉编码器。

因此，该模型的模型构成包含两个关键部分：

• 用于整体模型能力的混合 Mamba-2/Transformer 混合专家骨干网络

• 用于视觉输入的 C-RADIO 视觉编码器

6. 最长 1M tokens 上下文

本次发布信息中明确指出，Nemotron 3.5 Super 支持最高 1M tokens 的上下文。

context up to 1M tokens

1M tokens 上下文是该模型的重要规格之一。结合其编码、推理、工具调用、文档理解和视觉语言能力，Nemotron 3.5 Super 在版本更新内容中占据了核心位置。

四、模型架构信息：120B 参数与 12B 活跃参数

Nemotron 3.5 Super 使用的是混合 Mamba-2/Transformer 混合专家骨干网络。

模型参数信息如下：

120B 参数
12B active per token

也就是说，模型总参数为 120B，而每个 token 的活跃参数为 12B。

其架构描述为：

hybrid Mamba-2/Transformer mixture-of-experts backbone

对应的核心组成可以概括为：

• Mamba-2

• Transformer

• 混合专家架构

• 120B 总参数

• 每个 token 12B 活跃参数

• C-RADIO 视觉编码器

本次更新内容明确给出了 Nemotron 3.5 Super 的参数规模、活跃参数规模、骨干结构和视觉编码器信息。

五、Nemotron 3.5 Bolt：更紧凑的同系列模型

除了 Nemotron 3.5 Super 外，版本信息还介绍了一个更紧凑的同系列模型：Nemotron 3.5 Bolt。

Nemotron 3.5 Bolt 是 Nemotron 3.5 Super 的紧凑版本。

其核心信息包括：

项目

内容

模型名称

Nemotron 3.5 Bolt

定位

Nemotron 3.5 Super 的紧凑同系列模型

总参数规模

74B

每个 token 活跃参数

9B

调优目标

适配 24 GB NVIDIA GPU

面向任务

日常智能体任务

额外能力

包含 drafter，可进行 speculative decoding

Nemotron 3.5 Bolt 将 Super 的规模压缩到 74B 参数，每个 token 活跃参数为 9B。

版本说明中提到，Nemotron 3.5 Bolt 针对 24 GB NVIDIA GPU 进行了调优，面向日常智能体任务。

相关信息可以概括为：

74B 参数
每个 token 9B 活跃参数
适配 24 GB NVIDIA GPU
用于日常智能体任务
包含 drafter
支持 speculative decoding

其中，Nemotron 3.5 Bolt 包含 drafter，并支持 speculative decoding。

本次更新同时给出 Super 与 Bolt 两个模型的信息，形成了不同参数规模与不同定位的同系列模型组合：

模型

总参数

每个 token 活跃参数

定位

Nemotron 3.5 Super

120B

12B

编码、推理、工具调用、文档理解、视觉语言任务

Nemotron 3.5 Bolt

74B

9B

适配 24 GB NVIDIA GPU 的日常智能体任务

六、云端决策模型现已可用

ollama v0.40.5 还带来了云端决策模型。

版本更新中指出，决策模型现已在云端可用。用户可以通过以下模型名称运行云端决策模型：

clef:cloud

以及：

clef-flash:cloud

这两个云端模型可通过 ollama.com cloud 使用，无需先在本地拉取模型。

相关信息可以整理为：

内容

云端模型 1

clef:cloud

云端模型 2

clef-flash:cloud

使用方式

通过 ollama.com cloud 运行

本地拉取

不需要先拉取到本地

模型类型

决策模型

版本更新中明确强调，使用这两个云端模型时，不需要在本地执行模型拉取。

这项更新对应的重点是：

决策模型现已可通过云端运行
可使用 clef:cloud
可使用 clef-flash:cloud
无需本地拉取

七、OpenAI 兼容 Responses 对话续接问题修复

在 v0.40.5 中，Ollama 修复了一个与 OpenAI 兼容 Responses 对话有关的问题。

此前，如果一个 OpenAI 兼容的 Responses 对话中包含自定义工具调用，那么继续该对话时可能会失败并报错。

本次更新后，包含自定义工具调用的 OpenAI 兼容 Responses 对话可以继续进行，不再因为该情况失败。

更新内容可以概括为：

更新前情况

v0.40.5 更新后

继续包含自定义工具调用的 OpenAI 兼容 Responses 对话可能失败

不再因该情况而报错失败

本次修复涉及以下几个关键信息：

• OpenAI 兼容 Responses 对话

• 自定义工具调用

• 对话续接

• 失败错误修复

版本说明明确指出，继续包含自定义工具调用的 OpenAI 兼容 Responses 对话不再失败。

八、云端访问失败时提供更清晰的错误提示

ollama v0.40.5 对云端访问失败时的错误提示进行了改进。

此次更新后，当云端访问出现问题时，用户可以获得更清晰的错误信息，以说明具体发生了什么问题。

更新涉及的失败场景包括：

• 登录问题

• 桌面应用中的支付问题

• 来自 ChatGPT 网关的上游访问错误

版本说明中提到，当云端访问失败时，以下问题将有更清晰的说明：

失败类型

更新后的表现

登录问题

更清晰地说明问题

桌面应用支付问题

更清晰地说明问题

ChatGPT 网关上游访问错误

更清晰地说明问题

这部分更新的重点在于，错误提示将更直接地解释问题来源。

也就是说，当云端访问未能成功时，用户可以看到对以下情况更明确的说明：

登录相关问题
桌面应用内支付相关问题
ChatGPT 网关上游访问相关问题

本次更新没有改变这些问题本身的分类描述，但改进了它们在发生时的错误信息清晰度。

九、llama.cpp 与 MLX 已更新

ollama v0.40.5 还更新了 llama.cpp 和 MLX。

其中，llama.cpp 的更新加入了 Nemotron 3.5 支持。

版本更新内容为：

Updated llama.cpp
adding Nemotron 3.5 support
and MLX

也就是说，本次底层相关更新包括：

• 更新 llama.cpp

• llama.cpp 加入 Nemotron 3.5 支持

• 更新 MLX

对于本次新增的 Nemotron 3.5 Super，以及版本信息中提到的 Nemotron 3.5 Bolt，llama.cpp 的 Nemotron 3.5 支持是此次更新中的重要组成部分。

十、ollama v0.40.5 更新内容汇总

本次版本更新内容可以归纳为以下几个部分。

更新方向

具体内容

新模型

NVIDIA Nemotron 3.5 Super

Super 模型能力

编码、推理、工具调用、文档理解、视觉语言

Super 模型架构

120B 混合 Mamba-2/Transformer 混合专家骨干网络

Super 活跃参数

每个 token 12B

Super 视觉编码器

C-RADIO

Super 思考模式

支持开启或关闭

Super 上下文

最长 1M tokens

Super 运行命令

ollama run nemotron-3.5-super

Bolt 模型

Nemotron 3.5 Bolt

Bolt 参数规模

74B，总活跃参数为每个 token 9B

Bolt 定位

适配 24 GB NVIDIA GPU 的日常智能体任务

Bolt 附加能力

包含 drafter，支持 speculative decoding

云端决策模型

clef:cloud、clef-flash:cloud

云端模型特点

可通过 ollama.com cloud 运行，无需本地拉取

Responses 兼容性

修复包含自定义工具调用的对话续接失败问题

云端错误提示

登录、桌面应用支付、ChatGPT 网关上游错误提示更清晰

底层更新

更新 llama.cpp 与 MLX

llama.cpp 支持

加入 Nemotron 3.5 支持

十一、Nemotron 3.5 Super 的运行方式

在 Ollama 中运行 Nemotron 3.5 Super，可使用以下命令：

ollama run nemotron-3.5-super

模型名称为：

nemotron-3.5-super

该模型对应本次发布中最核心的新增模型内容，具备编码、推理、工具调用、文档理解、视觉语言、思考模式控制与最长 1M tokens 上下文支持。

十二、结语

代码地址：github.com/ollama/ollama

ollama v0.40.5 于 2026 年10月16日发布。

本次更新带来了 NVIDIA Nemotron 3.5 Super。该模型采用 120B 参数的混合 Mamba-2/Transformer 混合专家骨干网络，每个 token 激活 12B 参数，并搭配 C-RADIO 视觉编码器。模型支持编码、推理、工具调用、文档理解和视觉语言任务，同时支持开启或关闭思考模式，并支持最长 1M tokens 上下文。

本次更新还介绍了更紧凑的 Nemotron 3.5 Bolt。该模型拥有 74B 参数，每个 token 激活 9B 参数，面向适配 24 GB NVIDIA GPU 的日常智能体任务，并包含可用于 speculative decoding 的 drafter。

除模型更新外，ollama v0.40.5 还让云端决策模型可通过clef:cloud与clef-flash:cloud使用，且无需本地拉取模型；修复了带有自定义工具调用的 OpenAI 兼容 Responses 对话续接失败问题；改进了登录、桌面应用支付和 ChatGPT 网关上游访问错误的提示；并更新了 llama.cpp 和 MLX，其中 llama.cpp 已加入 Nemotron 3.5 支持。

我们相信人工智能为普通人提供了一种“增强工具”，并致力于分享全方位的AI知识。在这里，您可以找到最新的AI科普文章、工具评测、提升效率的秘籍以及行业洞察。 欢迎关注“福大大架构师每日一题”，发消息可获得面试资料，让AI助力您的未来发展。