vLLM 首日支持开源模型 Muse Spark Open
Muse Spark Open 为 816B 参数的多模态 MoE 模型，支持 1M 上下文。vLLM 提供 Day 0 支持，涵盖 DSpark 投机解码、NVIDIA 与 AMD 平台部署、初步 TPU 支持以及 LoRA RL。
推荐理由：开源前沿大 MoE 的首日推理支持细节（投机解码、跨硬件）直接影响部署选型与推理成本。
盯住 GPU、推理引擎、集群网络和 AI 商业化的信源，模型打分、合并同一件事的报道，每天早上 8 点出日报，每周一出周报。
Muse Spark Open 为 816B 参数的多模态 MoE 模型，支持 1M 上下文。vLLM 提供 Day 0 支持，涵盖 DSpark 投机解码、NVIDIA 与 AMD 平台部署、初步 TPU 支持以及 LoRA RL。
NVIDIA Nemotron 3.5 Super VL 可在 vLLM 上运行，面向图像、文档与视频理解的多模态 agent 工作流，提供 OpenAI 兼容服务与 multi-token prediction。
Meta 推出的 Muse Spark Open 是面向编码优化的 816B MoE 模型，激活参数 42B，上下文窗口 100 万 token；NVIDIA 开发者博客介绍如何在 GB300 NVL72 上扩展其智能体编码工作流。
Meta 的 Muse Spark Open 现已上线 Amazon SageMaker JumpStart，用户可通过 SageMaker Studio 或 SageMaker Python SDK 将其部署到自己 AWS 账户中的 SageMaker AI 端点并运行推理请求。
PyTorch 博客宣布 ExecuTorch 支持在 Arm Cortex-M CPU 上部署模型：以往在微控制器上跑 PyTorch 模型需要转换为其他框架格式、维护独立工具链并排查跨框架数值不一致，ExecuTorch 完全消除了这一转换步骤。
该网站让用户在购买硬件前直观体验本地大模型的运行速度，在 Hacker News 上获得 96 点、39 条评论。
范式智能技术集团联合北京睿思智联宣布，一站式生产级 AI 部署平台「模域 ModelSphere」正式上线并开源。
vLLM博客介绍借助agent辅助的CuTe DSL优化加速Kimi K3在NVIDIA GB300上的解码，并通过受限改动、正确性测试与可复现基准保障改动安全落地。
vLLM博客披露Kimi K3在AMD Instinct MI355X上的优化过程与瓶颈分析，称在AgentX基准上单GPU吞吐已追平NVIDIA HGX B300。
vLLM在发布当天即支持Reflection的Beam-1.0（总参数501B、激活23B），通过agent驱动的优化将解码延迟降低2.71倍，并集成了带自适应验证的DFlash2投机解码。
AWS 机器学习博客介绍开源权重模型 Reflection Beam（面向 agent 编程与长时程任务）的部署方式：可使用 SageMaker JumpStart 实时端点，或通过 SageMaker HyperPod Inference 配合 JumpStart、SGLang 或 vLLM 在 Kubernetes 上进行分布式 GPU 推理。