PyTorch 2.15 为 MPS 带来 FP8 支持和更快的 LLM 解码
PyTorch 2.15 在 MPS 后端加入 FP8 张量支持,并把解码、softmax 等算子从 MPSGraph 换成专用 Metal kernel。
推荐理由:在 Mac 上跑本地 LLM 的开发者可以装 2.15 RC 试解码提速,前提是 macOS 15 与 Python 3.11 以上。
PyTorch 2.15 在 MPS 后端加入 FP8 张量支持,并把解码、softmax 等算子从 MPSGraph 换成专用 Metal kernel。
推荐理由:在 Mac 上跑本地 LLM 的开发者可以装 2.15 RC 试解码提速,前提是 macOS 15 与 Python 3.11 以上。
Reflection 发布其首个开源模型 Beam,501B 参数的 MoE 架构,每个 token 激活 23B,支持 1M token 上下文窗口,采用 Apache 2.0 许可,主攻编码与 Agent 场景。
推荐理由:需要自建推理的团队可以先用 vLLM 或 SGLang 起 NVFP4 版本,四张 B200 就能跑长上下文服务。
Apertus 1.5 在 8B 和 70B 两个规模上加入图像与音频理解、可选 thinking 模式,上下文窗口扩展到 262,144 tokens,是 1.0 的四倍。
推荐理由:想在本地跑多模态的团队可先下 8B 权重微调,注意模型只输出文本,图像和语音仅作输入。
Hugging Face 上线 Open TTS Leaderboard,用 WER/CER、RTFx、TTFA 和说话人相似度等客观指标评测开源多语言 TTS 与声音克隆模型。
推荐理由:评估开源 TTS 选型的团队可以按目标语言和声音克隆需求在榜单筛出候选模型,再去 Listen 页试听对比。
H 公司发布 Holo4 系列智能体模型,含 27B 稠密版与 35B-A3B MoE 版,已在 H Models API 上线并在 Hugging Face 开放权重。
推荐理由:业务团队可以用 H Models API 上的 Holo4 27B 跑桌面与 API 混合流程,先替代重复的点击录入。
Hugging Face Hub 新增 RL Environments 专区,带 rl-environment 标签的数据集仓库会出现在新筛选中。首批注册的框架标签有 Harbor、Verifiers、OpenEnv 和 NeMo Gym,每个标签会在数据集页显示图标并生成对应的运行命令,且没有新增仓库类型、注册表或注册流程。
Voice Arena 与 Hugging Face 在 Open ASR Leaderboard 上线 Monsoon 印地语与印度英语评测集,四个划分合计覆盖 4888 名说话人,每条音频记录 12 项说话人属性。
推荐理由:做印地语或印度英语语音识别的团队,可以先在 Monsoon 公开集上自测,再按地区、年龄和机型拆分 WER 以定位模型短板。
Sentence Transformers v6.0 新增 MultiVectorEncoder,用于 ColBERT 式 late interaction 检索,并提供从数据、损失函数到训练器的完整微调流程。
推荐理由:做医疗、法律等垂直检索的团队可以照脚本用自有问答对微调多向量模型,单张 RTX 3090 跑十几个小时,前提是先备好问答对数据。
Multiverse Computing 发表论文提出量化感知修复 QAH,在模型结构压缩并量化之后直接从原始全精度大模型蒸馏,而非从已恢复的 bfloat16 检查点蒸馏。
Hugging Face 提出共识分歧探针、遮蔽实体检索和拼写切换三项测试,用于量化语音识别模型的基准优化现象,评测了 11 个开源 ASR 模型。
推荐理由:做语音模型选型时,可先用 Open ASR Leaderboard 的 Benchmark fitting 标签查看候选模型是否复现参考文本错误。
Hugging Face 发布覆盖 2026 年 1 至 8 月的开源模型生态观察报告,期间 Hub 上公开模型仓库从 243 万增至 296 万,数据集从 71.1 万增至 100 万,Spaces 从 100 万增至 144 万。
推荐理由:做开源模型选型与微调的团队可以借报告中的下载量和衍生模型分布,判断该把工程押在哪个模型家族上。
IBM Research 对比其 ALTK-Evolve 与 ACE 两种 Agent 记忆方案在 AppWorld 上的表现。两者都不把历史经验压缩成摘要,区别在投递方式,ACE 每步注入完整 playbook,ALTK-Evolve 按任务检索少量 guideline。
NVIDIA 在 Hugging Face 发布 Magpie TTS Multilingual 开源权重模型,364M 参数,覆盖 12 种语言,本次新增现代标准阿拉伯语、韩语和巴西葡萄牙语。
推荐理由:做多语言语音客服的团队可以拉取这套 364M 开源权重,在自有 GPU 上实测首字延迟,再用 NeMo 微调自家发音。
Baseten 已成为 Hugging Face Hub 支持的 Inference Provider,初期在 Hub 上支持对话与文本生成任务,可调用 Kimi K3、DeepSeek V4 Flash、GLM-5.2 等开放权重模型。
Diffusers 现在可以原生加载 Nunchaku Lite 的 4-bit 量化 checkpoint,无需自定义 pipeline 或单独推理引擎,调用 from_pretrained() 即可。
推荐理由:手上只有消费级显卡的开发者可以直接加载预量化权重跑通文生图,验证效果后再考虑用工具包量化自己的模型。
Google 发布 TabFM,一个面向表格数据分类和回归的零样本基础模型。它把整张表作为上下文提示,单次前向传播即可给出预测,无需逐数据集训练、超参数调优和特征工程。
推荐理由:企业分析团队可以直接在 BigQuery 用 SQL 对已有表做零样本分类或回归,省去训练模型和调参。