DeepSeek 以 Apache 2.0 开源内部推理框架 DeepInfer,支撑 V4.1-Flash 快速推理
DeepSeek 以 Apache License 2.0 开源了内部推理框架 DeepInfer,它是让 V4.1-Flash 在规模化部署下快速生成回答的服务端软件。
DeepSeek 以 Apache License 2.0 开源了内部推理框架 DeepInfer,它是让 V4.1-Flash 在规模化部署下快速生成回答的服务端软件。
GitHub 现支持一次性将仓库全部分支保护规则迁移为 rulesets。用户可在 Settings → Rulesets 的 Import branch protection rules 中预览将创建的 rulesets、查看已有 ruleset 覆盖情况,并选择 Active、Evaluate 或 Disabled 状态。
Contrack 是自托管的联系人管理与人物搜索应用,作者在 Show HN 发布,用 Docker 一条命令即可在本机或家庭服务器运行,无需注册云账号和 API key。
dp_intl 是一个兼容 Gettext 的 C++ 国际化库,它不依赖 locale,并通过虚拟流类读取消息目录,可包装压缩包等任意类文件对象。它用 uint64_t 统一各平台数字类型(Gettext 的 unsigned long 在 64 位 Windows 上仅 32 位),复数规则可配置,源字符串支持任意语言。
Mistral 发布 Voxtral 3 语音模型家族,包含 Small 和 Mini Transcribe 转写模型、Mini TTS 语音合成模型,以及基于 LiveKit 的语音 Agent SDK。
推荐理由:做客服语音机器人的团队可以用这条流式管线替换自建的转写加合成拼接,先把实时通话接起来跑一轮实测。
开源实验性 CLI 工具 REW 能把失败的 Go 构建连同工作区文件与依赖产物打包成可移植 .rew 胶囊,并在无网络的 Linux Docker 容器中离线重放、比对失败结果。
git-zmarshal 是一个面向多 agent 编码主机的零依赖 Python 库,把同时涌入 main 的多次合并压缩成更少的部署波次。
GitHub 推出包防火墙公开预览,在 Actions runner、编码智能体等端点与上游包仓库之间检查元数据请求和包下载,拦截安装阶段发起的恶意攻击。管理员可配置冷却期、查询 GitHub Advisory Database 的恶意软件与漏洞告警,以及识别证明降级等供应链检查。
Twig 是一款 Android 文件管理器,把本地存储、FTP、SFTP、SMB、WebDAV、S3、restic 备份与 Jellyfin/Emby 媒体库放进同一棵目录树中就地展开,并支持双栏互相复制。
开源项目 BigMoeOnEdge 在 llama.cpp 公共 API 之上实现 MoE 流式推理,只把每个 token 需要的专家留在内存,其余按需从存储读入,使大于内存的模型也能运行且输出与全内存运行一致。
Pando 是一个开源、可自托管的平台,用来运行团队构建的应用,包括用 AI 写出来的应用。给它一个 git 仓库或镜像,它会构建应用、扫描漏洞、在独立的隔离网络中运行,并接入公司 SSO,只开放给需要的人。
GitWiki 是基于 Python Flask、用 Git 存储和版本控制 Wiki 页面的开源自由 Wiki 软件。它支持 Markdown 与 [[PageName]] Wiki 链接,编辑会提交到 Git 仓库并保留历史、diff 和回滚,还提供全文搜索、页面管理和管理员设置。
mcpspan 开源了一套面向 MCP 服务器的自托管分析工具,服务端加一行埋点、用 docker compose 启动面板,数据留在本机。
Innerwall 是采用 Apache-2.0 协议的微隔离工具,在每个 workload 上运行 agent 观察流入连接,再把标签策略写入主机自带的 nftables,不需要编排器。
AnyLanguageModel 1.0 发布,这是 Apple Foundation Models 框架的可直接替换实现,改一行 import 即可用同一套会话代码调用系统模型、llama.cpp、MLX、Core ML 的开放权重模型,以及 OpenAI、Anthropic、Gemini、Ollama 等托管服务。
推荐理由:做 iOS 应用的开发者改一行 import 就能替换 Foundation Models,用同一套会话代码在本地模型和托管模型间切换。
CronPulser 以公开测试形式推出托管 cron 调度服务,可按 cron 表达式定时触发 HTTP 请求和防火墙内的私有命令,每次执行都记入同一份执行历史。任务可选邮件和 Webhook 告警,方便在需要关注时通知同事。免费额度含 5 个活跃任务且无需信用卡,Pro 9 美元/月、Scale 29 美元/月,不按执行次数计费。
开源、自托管的远程监控与管理平台 OpenRMM 发布,内置 AI 助手,可接入任意 OpenAI 兼容接口,包括本地部署的模型。AI 只读取设备状态并提议脚本与操作,每条任务需人工审批后才在端点执行,配有 dry-run 预览和只追加审计日志。
Proxium 是一个自托管 HTTP/SOCKS5 代理,一条 docker run 即可启动,镜像内同时跑代理、REST API、管理面板、PostgreSQL 和 Redis,支持 amd64 与 arm64。
Armite 是一个本地 Azure 模拟器,自带 Entra ID 令牌签发与校验,并按 Azure 的 934 个内置角色执行 RBAC,应用、Azure CLI、SDK 和 Terraform 可以像连 Azure 一样连它。
PyTorch 2.15 在 MPS 后端加入 FP8 张量支持,并把解码、softmax 等算子从 MPSGraph 换成专用 Metal kernel。
推荐理由:在 Mac 上跑本地 LLM 的开发者可以装 2.15 RC 试解码提速,前提是 macOS 15 与 Python 3.11 以上。
Photo Ferret 是一个开源照片相册项目,用 TypeSafe 的 Jev 图像模型给每张照片自动打标,访客可通过天空占比、情绪、色调等滑块与标签筛选照片,筛选全部在浏览器里完成。
Amber-8 是一个小型确定性栈机,把本地语言模型当作模数转换器,将杂乱主观文本转成栈上的数字、选项与 0-1 置信度,分支仍由确定性代码执行。它只提供 ask、pck、scl 三条模型指令,模型不写代码也不决定分支,示例程序编译后的字节码均在 2 KB 以内。
deepsense.ai 提出一套评估 Agent 系统的四层框架,覆盖数据集、执行环境、行为验证和指标。它要求每个用例多次运行并以 pass^k 而非 pass@k 作为上线门槛,检查工具选择、调用顺序和失败处理等轨迹,而不只看最终答案。
XuTerm 是同一位开发者推出的 iOS 与 Android SSH 与 Mosh 终端客户端,Android 版已在华为 AppGallery、APKPure、Uptodown、Appteka 和 GitHub Releases 上线,iOS 版仍在开发中。
Sandkiln 开源了一个自托管的代码执行沙箱,每次运行 AI 生成代码都启动独立 Firecracker microVM,拥有独立内核、文件系统和网络,采用 Rust VMM,MIT 许可。
作者 arabo 发布开源命令行工具 zombiecost,用只读权限扫描 AWS 账号,列出未挂载的 EBS 卷、未绑定的弹性 IP、超过 90 天且无自有 AMI 引用的快照、平均 CPU 低于 3% 的运行实例、零连接的 RDS 等闲置资源,并按 us-east-1 按需价格粗估每月花费。
kubectl 插件 kubectl-skyline 把 Kubernetes 集群渲染成 3D 城市:Namespace 是楼层平面,工作负载与 Pod 是塔楼,Service 和 Ingress 悬浮在其路由的 Pod 上方。
OpenBSD 8.0 于 10 月 20 日发布,是第 61 个版本;amd64 内核虚拟地址空间从 4G 提升至 512G,arm64 新增休眠支持。DRM 更新至 Linux 6.18.53,并加入 Intel Arc A-Series 显卡支持;VMM 支持每台 guest VM 最多 64 个 VCPUs。sparc64 切换到 LLVM 工具链,同时停止支持 loongson 架构。
TokenGate 是一个可即插即用的小组件,让已有大模型在长上下文 prefill 阶段做端到端可学习的 token 剪枝。在多项任务上首 token 延迟快 1.4 到 11.3 倍、峰值内存低 1.5 到 3.4 倍且精度不降,相比此前最好的 token 剪枝方法 prefill 最多快 6.4 倍、峰值内存低 2 倍。
summary_zh
Huawei Lin 提出 LatComm,一种把上下文编码与读取分离的隐空间通信接口,让同一段长上下文在多个问题之间复用。冻结的编码模型先把上下文压成固定大小的数据包,另一个冻结的接收模型通过 cross-attention 读取,门控由自身提示词计算。
Death Plan Switch 是面向独立开发者的自托管失联通知开关:每周发邮件要求按下按钮签到,未响应则依次询问近亲并通知相关联系人。所有步骤从每周签到邮件起算:24 小时提醒、48 小时最后提醒、72 小时询问近亲、144 小时通知联系人。项目在 GitHub 免费下载,MIT 许可,需 PHP 8.1+,无数据库。
澳大利亚独立开发者发布 Windows 分流工具 Rouler,开启免费公测。它可按应用、目标 IP 或子网指定出口网卡,让 WireGuard、Tailscale、OpenVPN 等客户端同时运行,未写规则的流量仍走系统默认路由,也不改路由表。
AppMaker 在 Hacker News 的 Show HN 发布,用户用自然语言描述业务应用,AI 在平台已有的表单、数据、用户角色和服务端逻辑骨架上生成可运行的应用。
Show HN 上出现一款自托管的 AI 支出归因工具,可按供应商、密钥和成员查看谁花了多少,并让数字与账单一致。它提供虚构公司 Acme Analytics 的只读示例,包含 Anthropic、OpenAI、OpenRouter 和 Cursor 十三个月的合成支出,无需登录即可浏览。工程和财务团队可先看示例判断归因粒度是否满足对账需求。
Omasharp 提供一套用 C# 与 QML 编写 Omarchy 应用的模板和工具链,开发者只改 Backend.cs 和 Main.qml 两个文件。dotnet publish 把 C# 编译成原生代码并配一个 Qt 宿主,运行时不需要安装 .NET,应用跑在 Omarchy 自带的 Qt 上。
Nscale 与 Anthropic 据报正洽谈又一项 $45B 算力协议,而一个多月前双方刚宣布过一项 $45B 算力协议。彭博社援引知情人士称,谈判仍在进行,细节可能变化。两家公司也都在推进 IPO,Nscale 的 $30 billion 估值据报遭遇投资者阻力。
SiteSolide 在 Hacker News 的 Show HN 亮相,定位为面向小型软件的开源云。现有信息仅包含项目名称、开源属性和目标场景,尚无具体功能、版本或部署方式。
DNS-AID 让智能体通过互联网现有的去中心化 DNS 命名基础设施相互发现。作者提出一种更有效地通过 DNS-AID 发布智能体的方法。
RawLink 是一个用 Rust 写的加密 TCP 隧道,从本地 SOCKS5 代理取流量,用 AES-256-GCM 加密后经隧道转发到远端服务器,单条连接可承载多个流。