recAMPLIFY 用 155M 参数递归预训练在蛋白任务上超过 AMPLIFY-350M
作者把递归预训练移植到 masked 蛋白语言模型,提出 155M 参数的 recAMPLIFY,训练用了与 AMPLIFY-350M 相同的 2T token。
作者把递归预训练移植到 masked 蛋白语言模型,提出 155M 参数的 recAMPLIFY,训练用了与 AMPLIFY-350M 相同的 2T token。
研究证明,梯度下降在多分类逻辑回归损失上可在与 ε 无关的迭代次数 T 内达到 ε 最优性差距;步长 η 需按 ε 和线性可分数据性质取得足够大,而 T 只依赖数据。数据性质包括样本数与间隔;T 由二者决定,η 还需一个在维度 d ≥ 3 时必要的额外量。证明借助 η → ∞ 时重标度梯度下降趋于感知机,后者在 T 次迭代内找到完美分类器。
论文提出 trajectory replay,用于让预训练的连续时间生成模型适配陆续到来的新数据而不遗忘旧任务。它不生成样本,而是训练更新后的速度场同时对齐冻结的历史速度场和新任务速度场,并按稳定性与可塑性系数加权,最优解即按各自密度对两个任务速度做平均、生成两者概率路径的混合。
TokenGate 是一个可即插即用的小组件,让已有大模型在长上下文 prefill 阶段做端到端可学习的 token 剪枝。在多项任务上首 token 延迟快 1.4 到 11.3 倍、峰值内存低 1.5 到 3.4 倍且精度不降,相比此前最好的 token 剪枝方法 prefill 最多快 6.4 倍、峰值内存低 2 倍。
Adrian Remonda 提出 Prior-Informed Adaptation(PIA),一个从离线到在线的基于模型强化学习框架,用结构化仿真先验实现快速自适应。
HarnessPro 是一个不需要标注数据的 harness 自改进方法,目标是在提升 Agent 任务表现的同时降低执行成本。它用 LLM 生成的测试评估候选 harness,不依赖标准答案或官方测试;专用 Agent 诊断执行轨迹,按不同的性能成本优先级规划更新,再用归一化加权平方距离选出偏成本、均衡、偏性能三档,对应不同的部署预算。
arXiv 论文提出 TSI 层论框架,把多智能体任务的兼容性障碍与系统能力分开刻画,交互复形与容量层的上同调非零即构成结构性签名。15,625 个一阶输入上,全智能体加性原语可精确求解决策与修复,最优成对系统决策 88.80%、仅比 88.79% 的多数类基线多对一个输入,修复率 26.63%。
该论文把诈骗者与反诈陪聊者的对话建模为双人博弈,用纳什均衡作为评估基准,让 LLM 通过上下文经验学习反制策略而无需微调。在 300 段模拟对话和三种 LLM 架构上,自适应策略选择比非自适应基线更接近纳什均衡,幅度从 28.9% 到 79.7%。作者同时公开代码和 300 段带逐轮策略标签与效用分数的标注数据集,论文已被 ECML PKDD 2026 接收。
这篇 arXiv 论文提出面向混合真标签与机器学习标注标签数据集的随机一阶和零阶优化方法。它针对人工标注成本高、模型自动标注可能出错的问题,给出可用于训练这类数据集的优化算法。作者从线性回归训练做到大语言模型微调,用实验展示所提算法的效果。
SOMA 是一个用 System One 模型持续监控 System Two 推理模型并在需要时介入的框架,分场景、感知、控制三层,同一个 S1 模型与控制器跨任务复用且不训练。
arXiv 论文用八个最大约一千万条训练样本的真实表格数据集,检验训练数据扩展是否带来更好泛化。实验发现 GBDT 与 MLP 类模型的扩展趋势大体相近,增加训练数据和算法改进都能带来提升,表格基础模型表现更分化,较新版本在分布偏移下仍能随上下文变长而受益。分布内与分布外性能在小规模时同步提升,规模变大后可能背离;MLP 用贴近评测条件的验证集做模型选择时,通常能维持或提升性能。
Caterpillar Net 给出一种非递归构造,用两个隐藏层、宽度 O(N^2) 与 2^{O(N log N)} 表示 N 个输入的最大值。该构造受 Brunck 等人 2026 年证明两个隐藏层足以表示一般 CPWL 函数的启发,并具有直接的几何解释。它面向 ReLU 网络最大值表示这一核心问题。
论文在高斯替代模型上精确计算候选打分决策模型的有限样本风险,检验教师软标签、冻结表征和温度校准这三项训练要素。在 CFPB 231,521 条信用卡投诉上,用逻辑教师概率训练的学生在决策成本上与教师持平,用真实结果训练的学生低 8%,30B 模型零样本经校准后仍不如教师,并偏离一致性条件 17.5 decibans。
summary_zh
arXiv 论文提出 Mise-en-Video(MeV),一个让创作者先在 3D 空间里编排分镜、再生成多镜头视频的框架。它把用于多级叙事一致性的分层注意力机制与 3D 感知的布局引导结合,实现逐镜头的精确空间控制。
推荐理由:做多镜头视频的团队可参考其分层注意力与 3D 布局引导设计,评估这套空间分镜控制能否接入现有生成管线。
研究提出 BrainLoRA,用 LoRA 加轻量 readout 对最高 104B 参数的多模态主干做参数高效微调,在 9 个多模态主干上均提升脑编码性能。在与此前 SOTA 相同的 Qwen3-Omni 主干上,该方法取得 Algonauts 2025 挑战赛已发表最佳成绩。
论文把 Next Best Action 建模为约束马尔可夫决策过程(CMDP),在 LP 求解中直接加入离策略因果校正,按客户状态选择动作以最大化长期价值并强制执行业务约束。
AfriBED 是面向 Bemba 和 Nyanja 两种低资源非洲语言的语音识别偏差评测数据集,用于检测 ASR 系统在性别和说话人类型上的偏差。Bemba 部分包含 80 位说话人的 3928 条语音共 9 小时,Nyanja 部分包含 127 位说话人的 6260 条语音约 18 小时。
RefCraft 是一个包含 300 个真实多模态网页开发任务的基准,把自然语言指令与 1 到 5 张参考网页截图放在一起。智能体需要自己挑选并使用这些参考,渲染页面、做视觉检查并迭代修改,评分依靠可独立验证的 keypoints 以及程序化判分和 VLM 裁判。在九个前沿(M)LLM 上最强系统总分只有 52.12(满分 100),说明视觉参考条件下的智能体生成在真实网页开发场景中仍是难题。
论文提出 WildAWM,一个用开源模型合成可控环境与任务、用于训练通用计算机使用智能体(CUA)的流水线。它构建同时支持图形界面、MCP 服务和命令行的可执行环境,并用执行式质量门控配合多智能体采样、交叉评判一致性和反事实探针,保证任务可解、难度足够且验证器可靠。
推荐理由:做 computer-use agent 训练的团队可以复用这套合成管线,批量生成带验证器的长程可执行任务环境。
ProteinGeoBench 用 131 个蛋白质结构任务评测前沿智能体,结果显示它们元数据检索流利、几何计算不可靠。四个前沿模型中有三个得分落在 0.785–0.816 之间,第四个为 0.707;数值任务只有 28 个,却占所有模型均失败任务的一半。评估配置同样影响排名,每任务只跑一次时 23.9% 的 bootstrap 重采样会把不同模型排到第一。
这篇 arXiv 论文提出量子哈密顿量嵌入框架,把经典训练数据编码进一个参数化哈密顿量,训练即优化该哈密顿量参数,其近似基态定义分类规则。基态近似完成后,推理可用经典表示或量子表示进行。
作者提出 KronLSTM,一种基于 Kronecker Delta Rule 的线性注意力架构,扩展了 xLSTM 家族。它的记忆修正只在矩阵空间的单一方向上改动目标关联,对已存信息的干扰小于 delta-rule 更新,记忆动态可描述为收敛到稳态分布的马尔可夫链,记忆矩阵的期望范数在整条输入序列上保持有界,因此不需要额外的归一化与稳定机制。
一项 arXiv 研究用 USGS 地球化学模拟器 PHREEQC 检验工具输出检索对 LLM Agent 准确率的影响,报告长达 846.8k 字符,测试为 158 道执行验证多选题。
推荐理由:做 Agent 上下文管理的团队可以按它的实验方法自查准确率在哪一步流失,再决定是否内联或指认权威输出。
Huawei Lin 提出 LatComm,一种把上下文编码与读取分离的隐空间通信接口,让同一段长上下文在多个问题之间复用。冻结的编码模型先把上下文压成固定大小的数据包,另一个冻结的接收模型通过 cross-attention 读取,门控由自身提示词计算。
arXiv 论文 AnyGoal 研究世界模型在专家轨迹之外能否泛化,并配套发布一套目标偏移任务基准和开源库。每个任务中单个状态因子与动作都仍在训练支撑范围内,但它们的组合在专家轨迹里出现稀少,用来检验模型能否把熟悉的因素重组为有效动力学。
研究者提出 Agentic Imagination(Agima)训练框架,用单个 omni 模型先提出动作、生成动作结果的图像,再在这些想象出的未来上推理,决定实际执行哪一步。
WeAct 提出在冻结主干上训练多个能力专用的 LoRA 适配器,并把适配器选择加入智能体的动作空间,通过模型原生工具调用接口按需组合能力。在八个深度研究基准上,Qwen3-32B 配合 WeAct 相比全量微调平均准确率提升 6.2%,相比最强的静态 LoRA 合并方法提升 27.5%,且算力消耗更少。作者还展示了模块化持续适配,新增代码计算适配器、更新写作适配器时主干与其他适配器均保持不变。
这篇 arXiv 技术报告提出 PhysRSI-eval,用首次尝试表现、效率、成功率、预算和失败后的改进五个轴量化物理递归自我改进。作者在固定交互预算下用 18 个操作任务评测多个 VLM,据此提出物理木桶假说,认为不同能力约束改进的不同环节。五轴指标可区分公开榜单平均分接近的系统,高分未必对应更早或更高效的改进;工作区干预实验还显示移除历史会降低后期成功率。
论文提出 CoopUQ,一个结合不确定性感知协同占用栅格预测与鲁棒决策的多机器人社交导航框架。它通过跨机器人时空特征融合预测未来占用栅格,再用预测结果及其不确定性约束多智能体强化学习的代价函数,惩罚驶入高占用或高不确定区域的导航行为,使策略在分布偏移下调整风险敏感度。
研究提出 Visual-Attribution Gating(VAG),通过对比有证据与证据退化的教师视图来过滤特权纠正,抑制视觉推理在线自蒸馏中的「特权校正污染」。VAG 以验证器导出的 advantage 为优化锚点,只采纳被视觉对比方向性支持的 token 级纠正。在六个视觉推理 benchmark 上,其平均性能优于 GRPO 和 OPSD,达到新的 SOTA。
arXiv 论文提出 Halcyon 系列早期融合多模态自回归模型,完全从零在 1 亿图文对数据集 GPIC 上预训练,说明强文本生图系统不必依赖互联网规模的语言预训练。
Death Plan Switch 是面向独立开发者的自托管失联通知开关:每周发邮件要求按下按钮签到,未响应则依次询问近亲并通知相关联系人。所有步骤从每周签到邮件起算:24 小时提醒、48 小时最后提醒、72 小时询问近亲、144 小时通知联系人。项目在 GitHub 免费下载,MIT 许可,需 PHP 8.1+,无数据库。
TMPlayer 发布免费开源的第三方 Telegram 媒体播放器,可在 Android TV、Fire TV、Android 手机以及 Windows、macOS、Linux 上播放自己聊天和频道里的视频,文件还在下载时几秒内就能开始播放,拖动进度会重新定向下载而非等待。
SendReward 上线按面值发礼品卡的服务,可在仪表盘单发、上传 CSV 批量发送,或用一次 API 调用触发,收件人自行从数百个品牌中挑选。平台费、单笔费和月费均为 0,最低充值 $20,单张金额 $1 到 $1,000,银行转账免费,信用卡充值另加 3% + $0.30。
AML CYCLE 2 是面向智能体长期记忆的评测基准,已在 Show HN 展示。它用于评估智能体在长期记忆方面的表现,当前页面显示 1 分、0 条评论。
Hacker News 的 Show HN 展示了一个开源飞机项目,当前获 2 分、6 条评论;页面未提供更多项目信息。
澳大利亚独立开发者发布 Windows 分流工具 Rouler,开启免费公测。它可按应用、目标 IP 或子网指定出口网卡,让 WireGuard、Tailscale、OpenVPN 等客户端同时运行,未写规则的流量仍走系统默认路由,也不改路由表。
Jeffy 在 Activepieces 上线免费文本分类 piece,把 70 个预训练分类器做成了下拉选项,不用写提示词,也不用解析 JSON 输出。它用冻结嵌入向量上的逻辑回归做分类,单条本地约 15ms,自托管免费,也可以直接连无需 API key 的公共 playground。
Yana 发布本地优先、人类掌权的 Rust AI 运行时 yana-rt 与桌面 IDE Yana Studio,模型只能提议动作,能否执行要经能力清单、策略和人工审批逐层判定。