Twig 发布不到 10 MB 的 Android 文件管理器,支持 NAS、S3、restic 和 Git
Twig 是一款 Android 文件管理器,把本地存储、FTP、SFTP、SMB、WebDAV、S3、restic 备份与 Jellyfin/Emby 媒体库放进同一棵目录树中就地展开,并支持双栏互相复制。
Twig 是一款 Android 文件管理器,把本地存储、FTP、SFTP、SMB、WebDAV、S3、restic 备份与 Jellyfin/Emby 媒体库放进同一棵目录树中就地展开,并支持双栏互相复制。
开源项目 BigMoeOnEdge 在 llama.cpp 公共 API 之上实现 MoE 流式推理,只把每个 token 需要的专家留在内存,其余按需从存储读入,使大于内存的模型也能运行且输出与全内存运行一致。
Daft Slop 是一款类似 Shazam 的 iPhone 应用,可听歌识别曲目并判断其是否由机器生成,给出 Human、Unsure 或 AI 三种结论及 AI 概率。无需 Apple Music 订阅或账号,但仅能检测 Apple Music 曲库中的歌曲,且官方称 AI 检测只是估计而非保证。
AnyLanguageModel 1.0 发布,这是 Apple Foundation Models 框架的可直接替换实现,改一行 import 即可用同一套会话代码调用系统模型、llama.cpp、MLX、Core ML 的开放权重模型,以及 OpenAI、Anthropic、Gemini、Ollama 等托管服务。
推荐理由:做 iOS 应用的开发者改一行 import 就能替换 Foundation Models,用同一套会话代码在本地模型和托管模型间切换。
okaeri 是一个跑在本机的科技资讯主页,把 arXiv、Hacker News、Quanta 等自选订阅源聚合成标签页,并按本地嵌入模型的排序展示推荐。推荐依据是你点开和隐藏过的文章,阅读历史只留在本机;排序用的 EmbeddingGemma 2 约 330 MB,Apache 2.0 许可,安装时联网下载。
Amber-8 是一个小型确定性栈机,把本地语言模型当作模数转换器,将杂乱主观文本转成栈上的数字、选项与 0-1 置信度,分支仍由确定性代码执行。它只提供 ask、pck、scl 三条模型指令,模型不写代码也不决定分支,示例程序编译后的字节码均在 2 KB 以内。
PurePDF 是一个免费的浏览器端 PDF 工具,基于 qpdf/WASM 在本机完成合并、拆分、删除页面、旋转、重排和压缩,文件不离开设备。压缩既可整体减小体积,也可按用户输入的目标大小处理;作者列出的后续功能包括提取页面、加页码、Bates 编号、水印、文件修复、OCR,以及 PDF 与 JPG、PNG、Word、Excel 互转和密码保护、解锁、签名、涂黑。
XuTerm 是同一位开发者推出的 iOS 与 Android SSH 与 Mosh 终端客户端,Android 版已在华为 AppGallery、APKPure、Uptodown、Appteka 和 GitHub Releases 上线,iOS 版仍在开发中。
NotchSub 是一款免费开源的 macOS 应用,点开刘海面板即可对系统正在播放的音频实时显示字幕与翻译,识别和翻译都在本机跑。语音识别用 WhisperKit,翻译用 Apple Translation,支持 99 种口语语言、离线译成约 20 种语言,只抓系统音频而不用麦克风。
Canary 是一款本地运行、隐私优先的工具,用于帮助用户在处理模糊问题时培养并保留直觉,开发历时一年。它被定位为人类不确定性与机器确定性之间的翻译,目前已收到学生、研究者和机构的反馈。
Maali 是一款隐私优先的个人财务应用,应用本身和 AI 分析都运行在用户自己的电脑上,断网也能用。用户可以导入银行提供的 CSV 账单,或通过 SimpleFIN 一次性连接后自动获取新支出,每笔支出自动分类并记住按商户的修改,还能列出所有周期性扣款的月度和年度金额并在涨价时给出提示。免费试用 30 天后一次性付费 99 美元,含全部更新,无需账号和银行卡。
开源应用 iphone-use-app 在 GitHub 发布,让视觉模型直接在同一台 iPhone 上截图并操作其他 App,运行时不需要 Mac、额外硬件或越狱。
Mac.apk 发布 Alpha 版,让安卓应用在 Apple Silicon Mac 上原生运行,不需要模拟器、虚拟机,底层也没有 Linux。应用以普通 macOS 进程启动,通过 Mac 的 GPU 绘制、在 CPU 上原生执行,出现在 Dock 里并拥有带返回键的独立窗口。
Nvidia 发布面向企业智能体和端侧计算的开放权重模型,包括 120B 参数的 Nemotron 3.5 Super VL,以及 Nemotron 3.5 Bolt 74B-A9B、Bolt E4B 两款轻量模型。
PackText 是一个把文字、emoji 和图片填充进任意形状的排布引擎,核心为约 3000 行 C++20 代码、无第三方依赖,对外提供 25 个 C 接口。
作者 erikkannike 发布 qwen3-4b-deslop,由 Qwen3-4B-Instruct 在 MacBook Air 上微调得到,用作去掉 AI 写作腔调的写作模型,量化版 2.5 GB,可用 Ollama 本地运行。
TriHerm Labs 发布本地优先的 macOS 视频录制与剪辑工具 Cutmark 0.3.0,素材默认存放在 ~/Movies/Cutmark 并以普通文件管理。
DebtShark 是作者在 Show HN 发布的 Rust 与 Tauri 桌面工具,把 FDCPA、54 个美国司法辖区的诉讼时效、医疗债务 No Surprises Act 和 UCC Article 9 写进本地数据库。
Auricle 是一个 350 KB 的浏览器端语音活动检测库,用 Rust 写成并编译为 WebAssembly,把 VAD、轮次判断、打断和闪避打包在一起,并适配任意 OpenAI 兼容的语音识别、对话与 TTS 接口。
NVIDIA RTX Spark 笔记本正式开售,起售价 2399 美元,由 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 推出。整机把 Blackwell RTX GPU 与 Grace CPU 集成在一颗 superchip 上,最高 128GB 统一内存和 1 petaflop AI 算力,面向本地 AI、内容创作和游戏。
推荐理由:想在本机跑大模型的开发者可以关注这批 128GB 统一内存的 RTX Spark 笔记本,评估把推理从云端搬到本地。
论文提出一套在手机 NPU 上完成一阶 LoRA 训练的系统,把前向、激活重算和输入梯度三处冻结权重乘法都交给 NPU,训练图、适配器与优化器留在 CPU。输入梯度核复用常驻权重分块和前向反量化器,省去转置权重拷贝;精度按梯度敏感度选择,FP16 输出加逐行范围保护,并支持断点续训和温控节流,可当后台任务运行。
推荐理由:做端侧个性化微调的团队可以参考它在 NPU 跑冻结权重、CPU 跑适配器的分工,评估骁龙平台的可行性。
SETAREH Transform 是一种排序辅助的 Haar 小波稀疏化方法,用于近似计算固定高维系数向量与连续输入向量的内积。该方法对两向量施加相同排列与 Haar 变换,截断前保持内积精确,截断后仅保留部分系数-输入对并引入可控误差。在合成高斯基线及 APPA-REAL 数据集的 CNN 表观年龄估计任务中,它可用显著少于原维度的系数-输入对完成近似。
这篇 arXiv 论文提出一种不依赖真值监督的弱到强路由方法,用弱模型与强模型之间的分歧作为判据,决定何时把弱模型的回答交给更强模型处理。作者先刻画了在允许弱模型本地多次推理情况下的最优路由策略,再据此推导出基于模型间比较的近似方法,且强模型越接近真值分布,近似越准确。
Liquid AI 在 Hugging Face 开源 LFM2.5-24B-A2B,总参数 24B、每 token 仅激活 2B,是面向端侧常驻智能体的推理模型。
推荐理由:要在本地部署智能体的开发者可先用 vLLM 或 llama.cpp 起服务,再拿工具调用和指令遵循任务实测它能否替代云端模型。
NVIDIA 与 Microsoft 在旧金山活动上宣布,RTX Spark 把完整 NVIDIA AI 栈装进 Windows 笔记本和紧凑台式机,笔记本当日开启预售、10 月 16 日上市,台式机 11 月开卖。
推荐理由:需要离线跑智能体的团队可以在 RTX Spark 笔记本上本地运行 125B 模型,复用 CUDA 栈无需重写代码。
Google DeepMind 发布 EmbeddingGemma 2,一个 740M 参数、Apache 2.0 许可的开源多模态嵌入模型,把文本、图像、视频和音频映射到同一嵌入空间。
推荐理由:做端侧搜索或本地 RAG 的开发者可以先在 Hugging Face 拉权重,用 Ollama 或 transformers.js 跑通文本嵌入,再决定是否加视觉音频编码器。
Hugging Face 的 transformers 现在可以直接加载并运行 llama.cpp 的 GGUF 量化模型,在 from_pretrained 里传入 gguf_file 指定 Hub 仓库和文件名即可本地生成。
Hugging Face 发布 @huggingface/kernels,一个从 Hub 加载并运行优化 WebGPU 内核的 JavaScript 库,首批上线 207 个内核,采用 Apache-2.0 许可。
推荐理由:做浏览器端推理的开发者可以用它按算子加载并与现有实现对比,先在目标机型跑 Fleet 确认正确性再接入。
Google DeepMind 发布多语言手语转文字模型 SL2T,把手语动作直接翻译成流式文本,首批落地在 Pixel 11 的 Gboard 和 Live Transcribe 上,目前支持美国手语(ASL)转英文,用户可手语搜索、写消息或让 Gemini 执行任务。
推荐理由:无障碍、输入法和会议转写产品可参考它的端侧姿态点方案,先在本地提取关键点再送服务器翻译,减少原始视频外传。
Meta 发布 30B 参数的多模态模型 Muse Glimmer,采用 Apache 2.0 许可证,面向本地智能体场景。模型由 2B 的 Perception Encoder 视觉编码器和 28B 文本解码器组成,支持图像与视频问答、多模态工具调用和目标检测,另附可选的 DFlash 推测解码草稿模型。
推荐理由:想在本地跑智能体的开发者可用 transformers 或 llama.cpp 直接加载 30B 权重,先验证编码与工具调用场景。
Google DeepMind 发布 Gemini Robotics 2,包含视觉语言动作模型 Gemini Robotics 2、具身推理模型 Gemini Robotics ER 2 和本地运行的 Gemini Robotics On-Device 2 三个模型。
推荐理由:做具身智能的团队可先在 Google AI Studio 调用 Gemini Robotics ER 2 验证多步任务规划,VLA 与端侧模型需申请早期访问。
Google DeepMind 发布实验性开源模型 DiffusionGemma,改用文本扩散并行生成,单张 GPU 上推理速度最高提升 4 倍。它是 26B MoE 模型,推理时激活 3.8B 参数,量化后可放进 18GB 显存,H100 上超过 1000 tokens/s,RTX 5090 上超过 700 tokens/s。
推荐理由:本地部署的开发者可以用它在单张消费级 GPU 上做内联编辑和快速迭代,但产出质量要求高时仍应切回 Gemma 4。
Google DeepMind 发布 Gemma 4 12B,一款不设独立编码器的统一多模态模型,视觉和音频输入直接流入 LLM 主干。它是其首个支持原生音频输入的中等规模模型,定位在 E4B 与 26B MoE 之间,基准表现接近 26B 模型,16GB 显存或统一内存的笔记本即可本地运行。
推荐理由:开发者可在 16GB 显存的笔记本上用 Ollama 或 LM Studio 本地跑它,做多模态和 Agent 原型验证。
Google 在 Nature 发表 PHRM 研究系统,在手机解锁后的几秒内用前置摄像头拍摄面部视频,通过端上深度学习估算心率和每日静息心率。研究在实验室与真实场景中采集近 700 名受试者的 35 万余段视频,心率估计 MAPE 低于 10%,静息心率与 Fitbit Charge 6 对比的整体 MAE 为 4.39 bpm。
推荐理由:有 IRB 资质的研究团队可以申请这份人脸视频数据集和 PHRM-mini 预训练模型,用来检验自家 rPPG 流程在深肤色人群上的误差。