跳到正文

#端侧

今日 0 条
10月20日周二
  1. Hugging Face Blog73

    Hugging Face 发布 AnyLanguageModel 1.0,Apple 平台可选本地或托管模型

    AnyLanguageModel 1.0 发布,这是 Apple Foundation Models 框架的可直接替换实现,改一行 import 即可用同一套会话代码调用系统模型、llama.cpp、MLX、Core ML 的开放权重模型,以及 OpenAI、Anthropic、Gemini、Ollama 等托管服务。

    推荐理由:做 iOS 应用的开发者改一行 import 就能替换 Foundation Models,用同一套会话代码在本地模型和托管模型间切换。

10月18日周日
  1. NVIDIA Blog68

    NVIDIA RTX Spark 笔记本开售,起售价 2399 美元

    NVIDIA RTX Spark 笔记本正式开售,起售价 2399 美元,由 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 推出。整机把 Blackwell RTX GPU 与 Grace CPU 集成在一颗 superchip 上,最高 128GB 统一内存和 1 petaflop AI 算力,面向本地 AI、内容创作和游戏。

    推荐理由:想在本机跑大模型的开发者可以关注这批 128GB 统一内存的 RTX Spark 笔记本,评估把推理从云端搬到本地。

10月14日周三
10月8日周四
10月7日周三
  1. Google DeepMind81

    Google DeepMind 发布 EmbeddingGemma 2,740M 参数端侧多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,一个 740M 参数、Apache 2.0 许可的开源多模态嵌入模型,把文本、图像、视频和音频映射到同一嵌入空间。

    推荐理由:做端侧搜索或本地 RAG 的开发者可以先在 Hugging Face 拉权重,用 Ollama 或 transformers.js 跑通文本嵌入,再决定是否加视觉音频编码器。

9月22日周二
9月1日周二
8月12日周三
  1. Google DeepMind71

    Google DeepMind 发布手语转文字模型 SL2T,Pixel 11 的 Gboard 与 Live Transcribe 首发支持 ASL

    Google DeepMind 发布多语言手语转文字模型 SL2T,把手语动作直接翻译成流式文本,首批落地在 Pixel 11 的 Gboard 和 Live Transcribe 上,目前支持美国手语(ASL)转英文,用户可手语搜索、写消息或让 Gemini 执行任务。

    推荐理由:无障碍、输入法和会议转写产品可参考它的端侧姿态点方案,先在本地提取关键点再送服务器翻译,减少原始视频外传。

8月10日周一
  1. Hugging Face Blog76

    Meta 发布 30B 多模态模型 Muse Glimmer 并开源,主打本地智能体场景

    Meta 发布 30B 参数的多模态模型 Muse Glimmer,采用 Apache 2.0 许可证,面向本地智能体场景。模型由 2B 的 Perception Encoder 视觉编码器和 28B 文本解码器组成,支持图像与视频问答、多模态工具调用和目标检测,另附可选的 DFlash 推测解码草稿模型。

    推荐理由:想在本地跑智能体的开发者可用 transformers 或 llama.cpp 直接加载 30B 权重,先验证编码与工具调用场景。

7月28日周二
  1. Google DeepMind76

    Google DeepMind 发布 Gemini Robotics 2,让人形机器人实现全身控制与多机协作

    Google DeepMind 发布 Gemini Robotics 2,包含视觉语言动作模型 Gemini Robotics 2、具身推理模型 Gemini Robotics ER 2 和本地运行的 Gemini Robotics On-Device 2 三个模型。

    推荐理由:做具身智能的团队可先在 Google AI Studio 调用 Gemini Robotics ER 2 验证多步任务规划,VLA 与端侧模型需申请早期访问。

6月11日周四
  1. Google DeepMind81

    Google DeepMind 发布实验性开源模型 DiffusionGemma,文本生成最高提速 4 倍

    Google DeepMind 发布实验性开源模型 DiffusionGemma,改用文本扩散并行生成,单张 GPU 上推理速度最高提升 4 倍。它是 26B MoE 模型,推理时激活 3.8B 参数,量化后可放进 18GB 显存,H100 上超过 1000 tokens/s,RTX 5090 上超过 700 tokens/s。

    推荐理由:本地部署的开发者可以用它在单张消费级 GPU 上做内联编辑和快速迭代,但产出质量要求高时仍应切回 Gemma 4。

6月9日周二
  1. Google DeepMind83

    Google DeepMind 发布 Gemma 4 12B 无独立编码器多模态模型

    Google DeepMind 发布 Gemma 4 12B,一款不设独立编码器的统一多模态模型,视觉和音频输入直接流入 LLM 主干。它是其首个支持原生音频输入的中等规模模型,定位在 E4B 与 26B MoE 之间,基准表现接近 26B 模型,16GB 显存或统一内存的笔记本即可本地运行。

    推荐理由:开发者可在 16GB 显存的笔记本上用 Ollama 或 LM Studio 本地跑它,做多模态和 Agent 原型验证。

6月5日周五
  1. Google Research76

    Google 在 Nature 发表 PHRM,用手机前置摄像头被动监测心率和静息心率

    Google 在 Nature 发表 PHRM 研究系统,在手机解锁后的几秒内用前置摄像头拍摄面部视频,通过端上深度学习估算心率和每日静息心率。研究在实验室与真实场景中采集近 700 名受试者的 35 万余段视频,心率估计 MAPE 低于 10%,静息心率与 Fitbit Charge 6 对比的整体 MAE 为 4.39 bpm。

    推荐理由:有 IRB 资质的研究团队可以申请这份人脸视频数据集和 PHRM-mini 预训练模型,用来检验自家 rPPG 流程在深肤色人群上的误差。