~/AI Infra 雷达
AI Infra · AI 生意 · 每 30 分钟更新

AI Infra 雷达

盯住 GPU、推理引擎、集群网络和 AI 商业化的信源,模型打分、合并同一件事的报道,每天早上 8 点出日报,每周一出周报。

24 小时抓取 127新事件 39累计收录 46 / 127

当前热点

  1. Meta 开放 Muse Spark Open 模型权重5 家报道
  2. Gemini 4正式发布,API限时半价3 家报道
  3. AMD MI355X跑Kimi K3吞吐追平HGX B3002 家报道
  4. vLLM 首日支持开源模型 Muse Spark OpenvLLM Blog
  5. NVIDIA 发布 Nemotron 3.5 Super VL 与 Bolt 边缘模型2 家报道

最新精选

全部算力与芯片推理与训练集群与网络AI 生意模型发布论文研究
2026-10-17
19:39CNCF Blog一手集群与网络AI 评分 62

Kyverno 策略扩展至 AI 工作负载运行时安全

Nirmata 创建并捐赠给 CNCF 的 Kyverno 已成为 CNCF 毕业项目,此前主要在准入控制阶段执行配置安全与最佳实践。其现正将 Kubernetes 策略执行能力扩展到 AI 工作负载的运行时安全。

推荐理由:在 K8s 上运行 AI 负载的团队需要把策略管控从准入延伸到运行时,这是 GPU 集群平台侧的刚需能力。
19:39vLLM Blog一手推理与训练AI 评分 88

vLLM 首日支持开源模型 Muse Spark Open

Muse Spark Open 为 816B 参数的多模态 MoE 模型,支持 1M 上下文。vLLM 提供 Day 0 支持,涵盖 DSpark 投机解码、NVIDIA 与 AMD 平台部署、初步 TPU 支持以及 LoRA RL。

推荐理由:开源前沿大 MoE 的首日推理支持细节(投机解码、跨硬件)直接影响部署选型与推理成本。
19:39vLLM Blog一手推理与训练AI 评分 72

vLLM 首日支持 Nemotron 3.5 Super VL

NVIDIA Nemotron 3.5 Super VL 可在 vLLM 上运行,面向图像、文档与视频理解的多模态 agent 工作流,提供 OpenAI 兼容服务与 multi-token prediction。

推荐理由:NVIDIA 自家模型在开源推理引擎上的首日支持情况,是引擎兼容性与选型的参考。
19:39Kubernetes Blog一手集群与网络AI 评分 66

排查 Kueue 准入:为什么 K8s Job 一直 Pending

在由 Kueue 管理的集群中,Job 提交后长时间处于 suspended 状态、看不到 Pod 和应用日志可能完全正常,因为 Kueue 还在判断任务能否使用所请求的资源。Kubernetes 官方博客介绍了如何借助 Headlamp 追踪 Kueue 的准入决策过程,定位 Job 迟迟不启动的原因。

推荐理由:Kueue 是 K8s 上 AI 训练与批处理作业调度的主流方案,Job 卡在准入队列是算力平台运维的高频痛点,这篇一手文章给出了可操作的排查路径。
19:39ServeTheHome集群与网络AI 评分 73

探访 AWS 网络实验室:从管理交换机到 102.4T

ServeTheHome 获准探访 AWS 的一间保密网络实验室,展示了从管理交换机到 102.4T 交换机的网络创新,还涉及加密、时钟同步和光模块等环节。这类 AWS 内部网络硬件细节极少对外公开。

推荐理由:102.4T 级交换机和网络栈是超大规模 AI 集群组网的核心,此文提供了 AWS 内部网络硬件难得的一手观察。
19:36Hugging Face Blog一手模型发布AI 评分 62

Granite Switch 4.1 发布,单一端点支持对话、决策与语音

Hugging Face 博客一手发布 Granite Switch 4.1,该模型通过单一端点同时提供对话、决策与语音三类能力。

推荐理由:一手模型发布,多能力统一到单端点若成立,可降低多模态应用的部署与调用成本。
19:36PyTorch Blog一手模型发布AI 评分 88

Meta 开放 Muse Spark Open 模型权重

Meta 宣布开放 Muse Spark Open 的模型权重,称其为迄今最强的美国开放权重模型。模型现已在 Hugging Face 上线,采用 Muse Model License。

推荐理由:顶级开源权重模型发布,直接影响自托管推理部署选项与开源生态的成本格局。
19:36SemiAnalysis算力与芯片AI 评分 78

SemiAnalysis:专利与路线图显示 ASML 正在开发混合键合设备

ASML 尚未官方宣布,但 SemiAnalysis 指出其专利文件、一篇新闻报道及其自身路线图均表明公司正在开发混合键合(hybrid bonding)设备。

推荐理由:混合键合是 HBM 与先进封装的关键工艺,ASML 入局将影响 AI 芯片的封装产能与技术路线。
19:36NVIDIA Blog一手模型发布AI 评分 82

NVIDIA 发布 Nemotron 3.5 Super VL 与 Bolt 边缘模型

NVIDIA 发布开放的 1200 亿参数模型 Nemotron 3.5 Super VL,称其为常驻智能体提供最快任务完成速度与最高准确率;同时推出两款边缘模型:Nemotron 3.5 Bolt 74B-A9B(24GB)针对本地智能体负载平衡每 GB 显存的智能与速度,另有 Nemotron 3.5 Bolt E4B(4GB)。

推荐理由:开源模型家族从云端扩展到边缘,为端侧智能体推理提供了具体的参数量与显存选型参考。
19:36NVIDIA Developer一手推理与训练AI 评分 80

NVIDIA 介绍在 GB300 NVL72 上规模化运行 Muse Spark Open

Meta 推出的 Muse Spark Open 是面向编码优化的 816B MoE 模型,激活参数 42B,上下文窗口 100 万 token;NVIDIA 开发者博客介绍如何在 GB300 NVL72 上扩展其智能体编码工作流。

推荐理由:给出大型开源 MoE 模型在 GB300 NVL72 上的实际部署路径,对推理集群选型与规划有直接参考价值。
19:36AWS ML Blog一手推理与训练AI 评分 63

Muse Spark Open 上架亚马逊 SageMaker

Meta 的 Muse Spark Open 现已上线 Amazon SageMaker JumpStart,用户可通过 SageMaker Studio 或 SageMaker Python SDK 将其部署到自己 AWS 账户中的 SageMaker AI 端点并运行推理请求。

推荐理由:主力开源模型接入主流云托管渠道,降低自建推理环境的部署门槛。
19:36Ars Technica AIAI 生意AI 评分 60

报道称 FTC 调查 Anthropic 与 OpenAI

据 Ars Technica 报道,FTC 正在调查 Anthropic 和 OpenAI,此前特朗普曾称 AI 恐慌是“骗局”。报道称 FTC 可能对 AI 公司处以与延迟报告数据泄露的公司相当的罚款。

推荐理由:头部 AI 公司面临监管罚款风险,可能推高合规成本并影响商业化节奏。
19:36PyTorch Blog一手推理与训练AI 评分 68

ExecuTorch 支持 Arm Cortex-M 部署 PyTorch 模型

PyTorch 博客宣布 ExecuTorch 支持在 Arm Cortex-M CPU 上部署模型:以往在微控制器上跑 PyTorch 模型需要转换为其他框架格式、维护独立工具链并排查跨框架数值不一致,ExecuTorch 完全消除了这一转换步骤。

推荐理由:端侧 MCU 推理工具链简化,省去跨框架转换,降低设备端部署的工程成本。
19:36The Verge AI算力与芯片AI 评分 60

Windows 针对 NVIDIA RTX Spark 笔记本优化

微软与英伟达上周在旧金山为首批 RTX Spark 笔记本举行发布活动,新一代 AI PC 成为焦点;The Verge 记者受邀参加次日的英伟达小型活动,进一步了解 Windows 如何针对 RTX Spark 进行优化。

推荐理由:英伟达 AI PC 平台与操作系统级优化落地,本地推理算力生态值得关注。
19:32Hacker News推理与训练AI 评分 64

Llmspeed:买硬件前先体验本地大模型跑多快

该网站让用户在购买硬件前直观体验本地大模型的运行速度,在 Hacker News 上获得 96 点、39 条评论。

推荐理由:直接服务读者选购本地推理硬件的决策场景,把推理性能体验前置到采购环节。
19:32OpenAI News一手AI 生意AI 评分 65

OpenAI 推出 Rosalind Academic Plan,向学术实验室提供赞助访问

OpenAI 推出 Rosalind Academic Plan,为符合条件的学术实验室提供 GPT-Rosalind 的赞助访问及相关工具,面向生命科学研究。

推荐理由:OpenAI 以赞助计划切入生命科学学术市场,是其商业化版图扩张的信号。
19:32量子位模型发布AI 评分 62

优必选发布 Thinker-WM,霸榜三大具身世界模型基准

优必选 Thinker-WM 采用多模态统一表征,以单模型实现六大能力,在三大公认具身世界模型基准评测中均拿下第一名。

推荐理由:具身世界模型新基准第一,单模型统一表征路线对机器人侧的部署与推理成本有参考意义。
19:32量子位推理与训练AI 评分 62

范式智能等开源一站式生产级 AI 部署平台「模域」

范式智能技术集团联合北京睿思智联宣布,一站式生产级 AI 部署平台「模域 ModelSphere」正式上线并开源。

推荐理由:国产开源 AI 部署平台新增选项,关注推理服务栈的读者可评估其落地价值。
19:32量子位AI 生意AI 评分 63

四川具身科技获超 1 亿元融资,产品 9.8 万元起售

该公司获超 1 亿元融资,产品 9.8 万元起售,正冲刺万台量产,目标是把「情绪价值」卖进千家万户。

推荐理由:具身智能商业化样本:融资叠加量产冲刺,可观察消费级机器人的定价与产能逻辑。
19:32ServeTheHome集群与网络AI 评分 68

AMD Helios机架交换托盘亮相OCP 2026

在OCP 2026大会上,ServeTheHome展示了AMD Helios AI机架中的HPE Juniper QFX5252交换机托盘实物。

推荐理由:AMD Helios整机柜方案的交换层组件实物曝光,是跟踪AI机架组网方案落地的一手素材。
19:32Hugging Face Blog一手论文研究AI 评分 70

Hugging Face开源2.8万亿token印度语言预训练

Hugging Face发布印度语言预训练扩展工作,预训练规模达2.8万亿token,并开源了配套的数据生成流水线。

推荐理由:万亿token级预训练数据流水线开源,为多语言大模型训练提供了可复用的工程方案。
19:32vLLM Blog一手推理与训练AI 评分 82

vLLM用CuTe DSL加速Kimi K3在GB300解码

vLLM博客介绍借助agent辅助的CuTe DSL优化加速Kimi K3在NVIDIA GB300上的解码,并通过受限改动、正确性测试与可复现基准保障改动安全落地。

推荐理由:GB300上的解码算子优化实战与工程方法论,对推理引擎开发者有直接借鉴价值。
19:32vLLM Blog一手推理与训练AI 评分 86

AMD MI355X跑Kimi K3吞吐追平HGX B300

vLLM博客披露Kimi K3在AMD Instinct MI355X上的优化过程与瓶颈分析,称在AgentX基准上单GPU吞吐已追平NVIDIA HGX B300。

推荐理由:AMD与NVIDIA旗舰GPU的推理吞吐正面对比数据,直接影响算力采购的性价比评估。
19:32vLLM Blog一手推理与训练AI 评分 78

vLLM首日支持501B模型Beam,解码延迟降2.71倍

vLLM在发布当天即支持Reflection的Beam-1.0(总参数501B、激活23B),通过agent驱动的优化将解码延迟降低2.71倍,并集成了带自适应验证的DFlash2投机解码。

推荐理由:500B级MoE新模型实现day 0可服务且大幅降延迟,展示推理引擎与模型发布协同的新节奏。
19:32Hugging Face Blog一手模型发布AI 评分 80

Reflection开源501B参数模型Beam

Hugging Face发文欢迎Reflection发布Beam:一个501B参数量的开源模型,定位为可拥有、可定制、可扩展。

推荐理由:501B级开源模型进入自托管生态,对应部署它的推理集群显存与算力需求将显著上升。
19:32TechCrunch AIAI 生意AI 评分 65

Cal AI两年收入超3000万美元,被MyFitnessPal收购

TechCrunch报道,Cal AI依靠一支小型网红推广队伍实现病毒式增长,两年内创造超3000万美元收入,并于今年3月被MyFitnessPal收购,收购金额未披露。

推荐理由:AI消费应用靠投放换增长的收入规模与并购退出路径的真实案例。
19:28The Decoder模型发布AI 评分 75

DeepSeek 发布 V4.1-Flash,智能体任务成本再降

DeepSeek 以开放权重形式发布 V4.1-Flash-1017,基准成绩优于上一代,任务完成更快、输出更短,单任务成本大幅下降。同时开放内部搜索引擎,Search 和 Fetch API 定价为每千次调用 0.75 美元,Claude Code、Codex 等工具中的 API 用户暂可免费使用。

推荐理由:开源模型继续拉低智能体任务的推理成本,Search/Fetch API 定价为工具调用类推理建立了新的价格锚点。
19:28TechCrunch AIAI 生意AI 评分 62

Replit 不再与 Anthropic 合作,成本是原因之一

Replit CEO Masad 表示,不再与 Anthropic 合作是出于包括成本在内的多重原因。Replit 已于 8 月宣布与 OpenAI 达成合作,但此前从未公开透露已终止与 Anthropic 的合作。

推荐理由:头部 AI 编程工具按成本切换模型供应商,说明推理成本正在左右 AI 应用的商业决策。
19:28NVIDIA Developer一手算力与芯片AI 评分 62

NVIDIA:一台 RTX Spark 完成编码、测试与部署

NVIDIA 开发者博客介绍如何在一台 RTX Spark 机器上完成 AI 应用的编码、测试与部署。文章指出开发者正从逐行手写代码转向指挥 AI agent 完成大部分代码编写。

推荐理由:RTX Spark 是 NVIDIA 新一代本地 AI 算力硬件,其单机开发部署工作流关系到本地推理与开发生态。
19:28PyTorch Blog一手集群与网络AI 评分 74

PyTorch 为 TorchTitan 引入 Zephon 确定性数据加载

PyTorch 官方博客介绍为 TorchTitan 引入 Zephon,实现弹性确定性的数据加载。文章指出模型训练所见的数据是影响模型表现最有力的杠杆之一。

推荐理由:TorchTitan 是 PyTorch 大模型训练框架,数据加载的确定性与弹性直接影响大规模训练的可复现性和效率。
19:28Ars Technica AIAI 生意AI 评分 60

Meta 新商业条款或可规避数百万美元 AI 授权费

Ars Technica 报道,Meta 精简了其商业服务条款,法律专家警告这实质是一次 AI 领域的权力扩张,可能借此规避数百万美元的 AI 内容授权费用。

推荐理由:若平台以条款方式免费获取训练数据,将显著改变 AI 公司的数据成本结构。
19:28TechCrunch AIAI 生意AI 评分 60

Jev 成 Vercel 平台史上采用最快的 AI 模型

Vercel AI 网关(类似 OpenRouter 的统一 API 服务)的数据显示,Jev 是 Vercel 平台有史以来被采用速度最快的 AI 模型。

推荐理由:第三方网关的真实调用数据反映了模型 API 市场格局的变化。
19:28AWS ML Blog一手推理与训练AI 评分 74

AWS 介绍开源编程模型 Reflection Beam 部署方案

AWS 机器学习博客介绍开源权重模型 Reflection Beam(面向 agent 编程与长时程任务)的部署方式:可使用 SageMaker JumpStart 实时端点,或通过 SageMaker HyperPod Inference 配合 JumpStart、SGLang 或 vLLM 在 Kubernetes 上进行分布式 GPU 推理。

推荐理由:一手开源编程模型部署指南,覆盖 vLLM/SGLang 与 K8s 分布式 GPU 推理,直接服务推理落地。
19:28量子位模型发布AI 评分 87

Gemini 4正式发布,API限时半价

谷歌正式发布Gemini 4模型,并推出API限时半价优惠。来源称此举助谷歌重回第一梯队,但未提供具体价格数字。

推荐理由:旗舰模型发布叠加API半价,将直接冲击推理服务定价与调用成本竞争格局。
19:28The Verge AI算力与芯片AI 评分 65

The Verge 评测 RTX Spark N1X 笔记本一周体验

The Verge 团队上手一周,评测多款搭载 NVIDIA 新处理器 RTX Spark N1X 的笔记本。RTX Spark 是面向笔记本和小型台式机的高性能 Arm SoC,对标 Apple、Intel、AMD 和高通,核心数量众多。

推荐理由:NVIDIA 新 SoC 的实测表现关系本地 AI 算力硬件竞争格局。