AI
英伟达发布 Nemotron 3.5：120B 开源 Agent 模型，74B 版能塞进 24GB 显存
为什么值得看： 想在自己机器上跑 Agent、不把客户文档送云端的人，这次有了两个能直接下载的新选项；其中 74B 版的目标就是一台高配工作站。
摘要：
- 10 月 15 日英伟达发布 Nemotron 3.5：Super VL 为 120B 总参数、每 token 激活约 12B，支持文本/图像输入，上下文 1M tokens；Bolt 74B-A9B 为 74B 总参数、激活约 9B，上下文 256K。
- Bolt 74B-A9B 经 2-bit 量化后可装进 24GB 显存，英伟达测试硬件包括 RTX 5090 电脑；两款权重均以 OpenMDW-1.1 许可发布，可商用、支持 Ollama / LM Studio / vLLM。
- 厂商成绩仅供参考：Artificial Analysis 测得 Super VL 智能指数 26.5，为当前领先的美国开源权重模型；但“比同类快 5 倍”等说法是英伟达自测口径，未经独立复核。
可直接用的提示词：
把 PDF 说明书丢给本地 Agent 前，先用这句定边界：“只依据我提供的本地文档回答，文档里没有的就说不知道，不要联网编造；引用结论时标出它在文档里的页码或章节。”