跳到正文

#多模态

今日 1 条
今天10月21日周三
  1. Hacker News · Show HN57

    Penmentor 开源上线 让 Claude Code 在屏幕上批改手写数学

    Penmentor 是一个 MIT 许可的开源工具,在 xournal++ 里按一个键就把它当前的手写数学页交给已登录的 AI 命令行 agent 批改。模型用彩色笔圈出第一处真实错误、给正确行打勾、对沿用错误结果的后续行划线,以提示而非答案的方式引导下一步,框选区域还能生成 manim 交互动画。

10月20日周二
  1. arXiv cs.AI / cs.LG 最新59

    RefCraft 基准含 300 个视觉参考网页开发任务,最强模型仅得 52.12 分

    RefCraft 是一个包含 300 个真实多模态网页开发任务的基准,把自然语言指令与 1 到 5 张参考网页截图放在一起。智能体需要自己挑选并使用这些参考,渲染页面、做视觉检查并迭代修改,评分依靠可独立验证的 keypoints 以及程序化判分和 VLM 裁判。在九个前沿(M)LLM 上最强系统总分只有 52.12(满分 100),说明视觉参考条件下的智能体生成在真实网页开发场景中仍是难题。

  2. arXiv cs.AI / cs.LG 最新46

    VAG:视觉可归因的在线自蒸馏强化学习

    研究提出 Visual-Attribution Gating(VAG),通过对比有证据与证据退化的教师视图来过滤特权纠正,抑制视觉推理在线自蒸馏中的「特权校正污染」。VAG 以验证器导出的 advantage 为优化锚点,只采纳被视觉对比方向性支持的 token 级纠正。在六个视觉推理 benchmark 上,其平均性能优于 GRPO 和 OPSD,达到新的 SOTA。

  3. The Decoder73

    可灵(Kling)发布 4.0 版本,新增立体声与十多种语言口型同步并推出 Flash 轻量版

    Kling AI 发布视频生成模型 4.0,单次可生成长达 30 秒的视频,提示词理解扩展到 8,000 tokens。升级后的 Omni Reference 一次最多接受 15 个参考素材,包含 10 张图片、合计最长 30 秒的 5 段视频和 7 个元素,并新增双声道立体声与覆盖德语、英语、日语、韩语、西班牙语等十多种语言的口型同步。

10月19日周一
10月18日周日
10月17日周六
10月16日周五
  1. arXiv cs.AI / cs.LG 最新61

    MobileInject:面向 MLLM 移动智能体的跨模态注入安全评测基准

    论文提出 MobileInject,一个评估 MLLM 移动智能体多模态注入与推理到行动安全风险的评测基准,覆盖 11 个场景、9 类安全风险和 108 个可执行风险实例。它引入跨模态一致性注入,并给出多角色协作欺骗与推理伪装注入两种增强攻击方法,配套推理安全诊断框架做细粒度失败分析。系统实验显示移动智能体普遍易受多模态注入影响,不少失败源于早期阶段的推理被劫持。

  2. arXiv cs.AI / cs.LG 最新48

    Spatial-TRM:用递归细化预测空间上下文区域

    Spatial-TRM 用冻结的视觉语言特征配合权重共享的递归推理完成空间上下文预测,可训练参数仅 11.2M。在 RoboSpatial-Home 基准上,其上下文准确率为 29.51%,比同等参数量的单步模型高 9.02 个百分点(相对提升 44.0%)。模型支持 6 种空间关系、3 种参考系和开放词表锚点物体,含冻结编码器共 877.8M 参数。

10月15日周四
10月8日周四
10月7日周三
  1. Google DeepMind81

    Google DeepMind 发布 EmbeddingGemma 2,740M 参数端侧多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,一个 740M 参数、Apache 2.0 许可的开源多模态嵌入模型,把文本、图像、视频和音频映射到同一嵌入空间。

    推荐理由:做端侧搜索或本地 RAG 的开发者可以先在 Hugging Face 拉权重,用 Ollama 或 transformers.js 跑通文本嵌入,再决定是否加视觉音频编码器。

10月1日周四
9月21日周一
8月28日周五
8月18日周二
8月17日周一
8月12日周三
  1. Google DeepMind71

    Google DeepMind 发布手语转文字模型 SL2T,Pixel 11 的 Gboard 与 Live Transcribe 首发支持 ASL

    Google DeepMind 发布多语言手语转文字模型 SL2T,把手语动作直接翻译成流式文本,首批落地在 Pixel 11 的 Gboard 和 Live Transcribe 上,目前支持美国手语(ASL)转英文,用户可手语搜索、写消息或让 Gemini 执行任务。

    推荐理由:无障碍、输入法和会议转写产品可参考它的端侧姿态点方案,先在本地提取关键点再送服务器翻译,减少原始视频外传。

8月10日周一
  1. Hugging Face Blog76

    Meta 发布 30B 多模态模型 Muse Glimmer 并开源,主打本地智能体场景

    Meta 发布 30B 参数的多模态模型 Muse Glimmer,采用 Apache 2.0 许可证,面向本地智能体场景。模型由 2B 的 Perception Encoder 视觉编码器和 28B 文本解码器组成,支持图像与视频问答、多模态工具调用和目标检测,另附可选的 DFlash 推测解码草稿模型。

    推荐理由:想在本地跑智能体的开发者可用 transformers 或 llama.cpp 直接加载 30B 权重,先验证编码与工具调用场景。

7月30日周四
  1. Google DeepMind68

    Google DeepMind 发布 Gemini Robotics ER 2,支持视频理解、任务编排与多机器人协作

    Google DeepMind 发布面向机器人的具身推理模型 Gemini Robotics ER 2,作为机器人的高层大脑负责对话、多步任务规划与工具调用,再把动作执行交给下层 VLA 模型。

    推荐理由:机器人开发者可通过 Gemini API 调用 ER 2,把 VLA 模型和导航 API 声明为工具,配合 GitHub 示例跑通取物流程。

7月1日周三
  1. Google DeepMind82

    Google DeepMind 发布 Nano Banana 2 Lite 与 Gemini Omni Flash

    Google DeepMind 发布 Nano Banana 2 Lite 与 Gemini Omni Flash 两款生成模型。Nano Banana 2 Lite(gemini-3.1-flash-lite-image)4 秒生成一张图,每张 1K 图片 $0.034,已上线 Gemini API、AI Studio 并接入搜索、Gemini app 等消费级产品。

    推荐理由:做电商或室内设计素材的团队可先在 AI Studio 用 Nano Banana 2 Lite 低成本出图,再串联 Omni Flash 转成短视频打样。

6月9日周二
  1. Google DeepMind83

    Google DeepMind 发布 Gemma 4 12B 无独立编码器多模态模型

    Google DeepMind 发布 Gemma 4 12B,一款不设独立编码器的统一多模态模型,视觉和音频输入直接流入 LLM 主干。它是其首个支持原生音频输入的中等规模模型,定位在 E4B 与 26B MoE 之间,基准表现接近 26B 模型,16GB 显存或统一内存的笔记本即可本地运行。

    推荐理由:开发者可在 16GB 显存的笔记本上用 Ollama 或 LM Studio 本地跑它,做多模态和 Agent 原型验证。

5月18日周一
  1. Google DeepMind59

    Project Genie 接入 Street View 实景生成,向全球 Google AI Ultra 订阅者开放

    Google DeepMind 为实验性原型 Project Genie 加入 Street View 实景锚定能力,可把生成的可交互世界绑定到真实地点。用户在美国地图上选点、挑风格(Ocean World、Desert Sands、Stone Age、B&W film 等)并描述角色后,Genie 会生成以该地点为起点的可探索场景,目前仅支持美国境内地点。