云雀 · 轻技术笔记

GitHub Trending AI 热点 · 2026-10-26

GitHubTrendingGitHub热点AI开源

今天最刺眼的一个数字,是「免费模型」这四个字:DeepSeek Harness 生态里的 dsh-our-free-model 一天涨了 3848 个 star,成为全场涨得最快的项目。它不提供模型,它提供的是「不登录、不注册、不填 API Key,直接用 DeepSeek V4.1 Flash 和 Kimi K3」这条通道。另一边,中转站评测工具 Folkbench 用 Rust 写了 3639 个 star,专门实测各家 API 中转站的可用率、延迟和价格——供模型的一方开始卷到「不收钱也给你用」,收钱的一方开始卷到「把价格透明地摆出来让人比」。这两件事撞在同一天,说明模型供给层已经彻底商品化:模型本身不再是差异化,通道、额度、故障转移才是。

第二个信号来自 Google 官方。google/elephant-goldfish-model 这个名字有点搞笑——大象负责记住一切,金鱼负责质疑一切:一个深上下文 agent 写规格,另一个零上下文 subagent 专门找茬。它的每个评审环节都是独立 subagent,任务不是「确认规格是对的」而是「推翻它」。加上同一天 Google 的 ARTEMIS 在 AndroidWorld 上做到 99%+ 任务完成率,Google 今天同时占住了「规格先行」和「设备执行」两端。

第三个信号更微妙:上下文工程已经从「省 token」升级成「结构化对齐」。ponytail 把代码量砍到基线的 47%、token 砍到 55%,但同时把危险逻辑的测试覆盖率从 68% 抬到 98%——它砍的是冗余,不是验证。而 xerj 走的是另一条路:让 agent 检索到「函数」而不是「行」,在 16/16 同解率下把输出 token 砍到 1/2.7,代价是要自己维护一个 Rust 写的搜索引擎。同一个目标,一个用规则砍、一个用索引砍,砍的对象都是「agent 读到的无效字节」。

第四个信号是 agent 的产出物开始往「有感官」的方向走。earshot 让 agent 能听懂自己写的视频——「0.56 秒短促瞬态,起音 3 毫秒,衰减 190 毫秒,最像机械键盘单键按下」;hypit 和 openfilm 都在做「把视频变成可被 agent 读写的东西」。而 ffmpeg-skill 更极端:92 个真机素材验证步骤、40 次音画同步全部误差 10ms 以内、53 个硬切 F1 0.97——它把「让 agent 剪视频」从提示词工程变成了可测量的工程问题。

最后一个不太舒服的事实:harness 层的整合速度已经跟不上 harness 的数量。HarnessRouter 一个项目要对接 26 个 harness base,README 自己画了张图——四个 harness 需要 36 项集成责任,加到第五个变成 45 项。每多一个 harness,产品方就多背一份集成成本。 这是 harness 层开始收「基础设施税」的信号。

值得关注的项目

  1. Ebony-Vinyl/dsh-our-free-model 仓库:https://github.com/Ebony-Vinyl/dsh-our-free-model stars:★ 42,791(JavaScript)|今日新增:+3848 简介:DeepSeek Harness 的免费模型插件——装上就用,不用登录、不用注册、不用填 Key,DeepSeek V4.1 Flash 和 Kimi K3 免费不限量。 为什么火:全场涨得最快,4.2 万 star 一天涨了 3848。它的价值在于把「用前沿模型」这件事的门槛砍到零:装一个插件,前沿模型就在那了。上游来源它也写得很硬——免费车道走 OpenCode 的 Zen 网关,Kilo 渠道走 Kilo 公共网关,都直连不经第三方中转。它真正解决的不是「模型不够用」,是配额、余额、注册、审批这一整套把普通用户挡在门外的流程。两个技术细节让它不只是套壳:一是思考强度分两套控制,声明了档位的模型(DeepSeek V4.1 Flash、GLM 5.3 Flash)给档位菜单(Off/Low/High/Max),选中值按原值下发 reasoning_effort,上游会校验这个字段、集合外的取值直接 400;没有档位菜单的走预算阶梯 2048/8192/上限,思考不可关闭的模型三档整体翻倍——因为思考和正文共享同一份输出额度。二是省 token 那一块:工具输出压缩在请求发出前就地重写 tool_result(git diff、status、log、grep、find、ls、构建日志都在内),实测 40 KB 的 git diff 移除 90% 字节而模型仍能就它作答。还有降级链:把任意车道的模型串成一条命名链以 combo: 出现在选择器里,输出任何正文之前失败就整段丢弃、切换对调用方不可见——它自己写了一句很准的话:思考增量不算正文,所以「想了很久才撞上配额墙」正是降级最有价值的场景。

  2. deepseek-ai/deepseek-harness 仓库:https://github.com/deepseek-ai/deepseek-harness stars:★ 261,319(TypeScript)|今日新增:+1990 简介:DeepSeek 官方的 agent harness,README 标题就是「Everything is a Plugin」,整个内核按插件架构重写。 为什么火:26 万 star,一天涨两千。它是模型厂下场做 harness 这件事的第四天——10-23 我写 MiMo-Code、10-24 写 DeepInfer,今天轮到 harness 本身。跟 dsh-our-free-model 撞在同一天不是巧合:模型厂做 harness + 社区给 harness 做免费通道,两件事是同一盘棋。DeepSeek 手里有模型,缺的是分发和通道;社区手里有通道,缺的是模型。而 DeepSeek Harness 自己的架构就是给这种接入准备的——Everything is a Plugin,插件挂上去,内核不动。它的 README 首页自带 SAFETY.md,并且明说不保证向后兼容,这种「把风险写在最显眼位置」的诚实在官方项目里不多见。

  3. DietrichGebert/ponytail 仓库:https://github.com/DietrichGebert/ponytail stars:★ 176,027(JavaScript)|今日新增:+1392 简介:让 AI agent 像「房间里最懒的资深工程师」那样写代码——代码量砍一半,但危险逻辑的测试覆盖率反而从 68% 涨到 98%。 为什么火:17.6 万 star,一天涨一千四,Ponytail 5 是彻底重写的版本。它最硬的一组数字在 benchmark 图里,而且方向是反的——**代码量降到基线的 47%、输出 token 55%、成本 74%、耗时 59%,同时风险逻辑的测试覆盖率从 68% 抬到 98%,agent 自己写的测试抓注入 bug 的比例从 46% 涨到 66%**。基线是同一个 agent 加不加这个 skill 的对照,39 个任务含一个真实的 FastAPI + React 仓库,Opus 5.5,各跑 5 次。它最值得抄的是作者自己划的那条红线:「规则从来不是『最少的 token』,而是只写任务需要的,但绝不砍验证、错误处理、安全和可访问性。代码变小是因为必要,不是因为在玩高尔夫。」六个安全任务(SQL 注入、路径穿越、伪造 token、限流、畸形 CSV 行、缓存)30 次全过。它甚至做了盲评:Ponytail 5 的回复以 110 比 67 赢过上一版。

  4. xerj-org/xerj 仓库:https://github.com/xerj-org/xerj stars:★ 15,488(Rust)|今日新增:+1358 简介:给 coding agent 的本地优先搜索引擎兼 MCP server——一个 Rust 二进制把代码、文档、SQL schema 全部索引起来,agent 检索到函数而不是行。 为什么火:1.5 万 star,一天涨一千四,涨幅是今天第四名里最猛的。它切的是「上下文经济学」这条今天最热的线,但它没有走 prompt 优化那条路,而是自己写了一个搜索引擎。数字都在 readme 里:一个 grep 式 agent 在某个代码库上会拉进最多 106 万 input token,而查 XERJ 索引每次只花几 KB;受控研究里 8 个任务 × 4 种语言 × 每组 16 次真实 claude -p token 计数,同解率 16/16 前提下输出 token 降到 1/2.7(对照纯靠记忆是 26 倍差距)。它举的例子很具体:WordPress 核心的 PHP 约 520 万 token,等于 26 个满上下文窗口,grep 也救不了——grep 命中的是一行,judge 那一行还是得打开整个文件;他们做的一次安全审计里,agent 在 1492 个 PHP 文件上只用了约 2.6 万 token,不到整棵树的 0.5%。它对标 Elasticsearch 8.13.4 的闭环测试是 55 胜 26 平 4 负,四场负全是同一个缺口——高写入速率下的 read p99——而且它把这四场负单独写了一份文档而不是藏起来。README 里那句「Treat any number you cannot reproduce with skepticism, including ours」值得贴出来。

  5. yetone/magpie 仓库:https://github.com/yetone/magpie stars:★ 21,387(Go)|今日新增:+1229 简介:一个本地网关把各家模型分发到各个 agent——Claude Code 跑 Kimi、Codex 跑 DeepSeek、Gemini CLI 跑 GLM,配额耗尽就悄悄换下一个账号。 为什么火:2.1 万 star,一天涨一千二,Go 单二进制。跟第一名 dsh-our-free-model 是同一个赛道的两种解法:那家做「一个插件接十个免费渠道」,magpie 做「一个网关接所有 agent」。它解决的痛点非常具体——你付费的订阅只在一个 agent 里能用。Claude Code 订阅在 Codex 里用不了,Codex 的额度在 Gemini CLI 里用不了,magpie 就是把这层隔墙拆掉:一个本地网关服务所有 agent,菜单栏里切换,配额跑完自动换下一个账号。Go 写的单二进制,跨 macOS/Windows/Linux/Docker/Termux,这种「一个人维护、到处能跑」的形态在 agent 生态里越来越占优势。

  6. lemomo-ai/lemo-opuscar 仓库:https://github.com/lemomo-ai/lemo-opuscar stars:★ 7,243(JavaScript)|今日新增:+1168 简介:59 种用纯代码做出来的影片风格,装给 Claude Code,让你的 agent 真的会拍片子。 为什么火:7.2 千 star,一天涨一千一,新项目里涨得最快的。README 第一行就写了一句很实在的警告:「Built for Claude. 风格是给 Claude Opus 5.5 调的,其他模型可能复现不好,用的时候小心。」这是今天所有项目里最诚实的一句自我限定——它不假装风格可以移植,只承认自己绑定了某一个模型。它的形态也很特别:不是提示词库,不是模板包,而是每种风格配一支完全用代码生成的短片,你看得到效果再决定要不要。10-22 那天它刚进池子涨了 1167,今天又涨 1168,两天节奏几乎一样,说明这不是一次性话题,是持续的创作需求。

  7. google/artemis 仓库:https://github.com/google/artemis stars:★ 14,743(Python)|今日新增:+742 简介:Google 官方的 Android 自动化框架——把自然语言指令变成可靠的真机操作,在 AndroidWorld 上做到 99%+ 任务完成率。 为什么火:1.4 万 star,Google 官方。它跟今天第 12 条的 elephant-goldfish-model 是同一个思路的两端:artemis 管执行,EGM 管规格。它的硬数字是 AndroidWorld 基准 99%+ 任务完成率(100+ 多步任务),而且它明确区分两种执行档位:flash 是反应式 observe-and-act 循环,每步 3–5 秒;pro 是先规划再验证的工作流,15–40 秒。这个区分很重要——它承认「快」和「稳」不能兼得,所以做成两个档位而不是一个平均分。它还接 MCP,让 Antigravity、Claude Code、Windsurf 直接驱动真机并回收 Logcat 和截图做诊断。一键启动脚本会自己装 ADB、scrcpy、FFmpeg、Python,还会把「Artemis 移动测试思维」的 rules.md 挂进你的 AI IDE。

  8. kajisho5/ffmpeg-skill 仓库:https://github.com/kajisho5/ffmpeg-skill stars:★ 2,798(Python)|今日新增:+739 简介:给 coding agent 的本地视频编辑器——42 个 FFmpeg 工具,配一份机器可读的工具契约和真实素材的验证基线。 为什么火:2.8 千 star,一天涨七百四,新项目里涨得第二快。它是今天最不像「AI 项目」的一个——但它解决的是纯粹的 agent 工程问题:怎么让 agent 可靠地剪视频,而不是每次都瞎试参数。它的验证数字是全部实测的,没有一条是估计:10 个真机素材(GoPro、DJI、iPhone 含杜比视界、安卓录屏、HDR10、24p)上 92/92 个验证步骤通过;音画同步 40/40 全部在 10 毫秒内(最大误差 1.1 毫秒),60 秒压力窗口里 95% 在 10 毫秒内,5 次未命中里 4 次被置信度标记出来;静音检测 20 个已知缺口零漏检,残留 ≤1 毫秒;53 个单镜头硬切 F1 0.97(precision 0.95、recall 1.00);agent 跑 24 个提示(12 英文编辑、8 日文、4 个必须拒绝的)共 72 次,路由、诚实拒绝、用户语言 72/72 全过。它甚至把 FFmpeg 8 换掉了输出格式宽度导致「什么都没匹配上 → 报告所有滤镜缺失」这个 bug 写了 0.9.0/0.9.1 两个版本修掉,并且把捕获到的输出列表存进测试 fixtures 当证据。它最反常识的地方是:最后一条没有满分。 eval 22 的结果是 8 条里对了 7 条,剩下那条它自己标注为诚实的部分完成,并写明原因——fixture 里没有真实语音可供转写。

  9. Folkbench/folkbench 仓库:https://github.com/Folkbench/folkbench stars:★ 3,639(Rust)|今日新增:+645 简介:AI API 中转站的实测评测排行与切换工具——持续测可用率、响应耗时和价格,配一个桌面客户端把选好的线路写进 Claude Code、Codex 的配置。 为什么火:3.6 千 star,一天涨六百四。它出现在这里不是巧合——它是第一名 dsh-our-free-model 的镜像:同一个生态的供给端和需求端。中转站这个物种今年才大规模冒头,中文圈尤甚,于是第一个问题就是「哪家不坑」,folkbench 做的就是持续实测:不是看厂商宣传的数字,是自己持续打它,公开可用率、延迟和价格,再给一个能一键切换的客户端。这个「排行榜 + 切换器」的组合跟模型榜单是一个逻辑——但对象从模型变成了通道。仓库里赞助商位排得整整齐齐,评测站在商业化和中立之间怎么站位,这本身值得看。

  10. monid-ai/monid 仓库:https://github.com/monid-ai/monid stars:★ 6,706(TypeScript)|今日新增:+611 简介:工具层的 OpenRouter——一个 base URL、一个 key,agent 就能触达 72 家提供商的 2000 多个工具。 为什么火:6.7 千 star,一天涨六百一。它做的是把「工具市场」这层抽象出来:网页搜索与抓取、人物与企业信息补全、社交平台、评论与行情数据、视频图像语音生成,全在一个入口后面。而它最聪明的一点在计费设计上——用量按调用结算,每个 connector 在自己的定义里声明自己的计费模型(按次、按返回结果数、按千字符或按秒视频),引擎在原始响应封套上结算、在任何输出映射之前结算,所以计的就是线上真正回来的东西。厂商报错、公司匹配不到、人没解析出来,这三种情况都作为数据完成并按零结算,不转嫁给调用方。端点是每次调用才选的:discover 会跨所有提供商给整个目录排名,返回每个候选的价格、实时健康状态和实测 p50/p95 延迟。而且 connector 是声明式的,所以 coding agent 自己就能写一个然后提 PR——加一个新 API 变成一次 PR,这个设计比大多数开源项目的贡献门槛都低。

  11. hypit-ai/hypit 仓库:https://github.com/hypit-ai/hypit stars:★ 25,589(TypeScript)|今日新增:+520 简介:给 AI agent 的视频语言与系统——丢一段视频进去,agent 把它克隆成完整工作流:素材、字幕、B-roll、特效,全部锚定在词上而不是秒上。 为什么火:2.6 万 star,一天涨五百二,Trendshift 日榜第一兼 TypeScript 日榜第一。它的定位一句话说得清:不是脚本,是整条工作流。「锚定在词上而不是秒上」这个设计是它跟所有同类工具的分界线——传统视频编辑的时间轴按秒定位,改一句话要重算时间;SVML 按词锚定,agent 改的是「哪个词对应哪个画面」。它还给了个很克制的边界说明:克隆是最快的入口而不是唯一入口,可以从模板起步也可以描述需求让 agent 从零写;生成模型是可选的,一个工作流可以不调用任何生成模型就编译出字幕、动态图形和代码渲染的画面,不用付服务费。它的标题句是「1 command, 100 variants, 100M views」——这行数字是营销,但它没把它当唯一的卖点。

  12. google/elephant-goldfish-model 仓库:https://github.com/google/elephant-goldfish-model stars:★ 779(Python)|今日新增:+505 简介:Google 官方的「规格驱动开发」插件——大象深上下文写规格,金鱼零上下文 subagent 负责找茬,然后你才动手写代码。 为什么火:779 star,一天涨 505,新项目里涨得最猛的一个——它才 779 个 star 就一天涨了 505,翻了一倍还多,这是今天最夸张的增速。它的两个动物隐喻把整个方法论说完了:🐘 大象记得所有东西,加载系统历史、架构图;🐰 金鱼什么都不记得,正是这种零上下文让它成为 unbiased 的挑战者。流程是 brainstorm(多视角金鱼群攻击早期概念)→ draft(逐节编译设计文档到 docs/designs/.md)→ review(四阶段流水线:Zoom Out → Comprehension → Critic → Readiness)→ resolve(交互式分诊 + 自动打补丁)→ 然后才实现代码。两个动作最狠:一是 drift report——顺序 AST 扫描器,检测已签入的规格和真实代码之间的偏离,规格会过期,它专门盯这个;二是 review loop——并发评审 subagent 分发引擎,支持直接分发和层级分发。安装方式铺得极广:Antigravity 一条命令、Claude Code 走 marketplace add、Codex 走 plugin marketplace add。779 star 的项目进了日榜,说明 Google 这次给的是新东西,不是又一轮 CLI 包装。

  13. openfilm/openfilm 仓库:https://github.com/openfilm/openfilm stars:★ 2,794(TypeScript)|今日新增:+491 简介:开源 AI 视频 agent——一部片子就是一个 HTML 文件、一个 frame(t) 函数,浏览器里跑着一个真的编辑器让你手改。 为什么火:2.8 千 star,一天涨四百九,新项目里涨得第三。和 hypit 是同一天同一条线的两个答案:hypit 说「用 SVML 语言描述时间轴」,openfilm 说「别发明语言,你 agent 已经会写网页了」。它的三句话设计很干净:一个 HTML 文件(film.html 把动画网页、素材、图片、声音放在轨道上,用 CSS 排版)、一个函数(每个镜头是一个网页,用 frame(t) 画任何时刻,three.js、WebGL、canvas、SVG、GSAP、video 都行)、一个真编辑器(Studio 在浏览器里跑,能拖动缩放旋转任何元素、改文字颜色样式、在时间轴上裁切和切割每个片段)。它明说自己不用 Remotion 或 HyperFrames 那种框架——「一个函数就够了」。而且它连成品视频都能自己出:启动视频 1 分 42 秒,从头到尾用 OpenFilm 做出来的。

  14. Jakeschincariol/replica-skill 仓库:https://github.com/Jakeschincariol/replica-skill stars:★ 5,443(Python)|今日新增:+467 简介:11 个 Claude skill 组成的完整克隆流水线——逆向目标 app、重建、测 bug、打分对比、起名、上架、部署。 为什么火:5.4 千 star,一天涨四百七。它的完整链路是:recon(从公开页、截图、商店页和自己的账号逆向出界面、流程、组件、数据模型)→ architect(定技术栈、数据库 schema、API)→ design(重建设计系统成 token)→ build → backend(认证、数据库、支付)→ test(点遍每条流程找 bug)→ diff(和原版对比出 parity 分数)→ entrepreneur(读真实评论里用户骂什么,改成你自己的修法)→ brand → launch(落地页 + 定价 + 商店页)→ deploy(上线到你自己的域名)。每个 skill 读上一个写的产物,产物堆在项目的 replica/ 目录里。它有一条自己写死的边界,很值得记:「它重建的是 app 做什么,永远不是 app 拥有什么」——功能与流程,clean-room 式,不碰代码、logo、文案和内容,细则写在最下面,skill 强制执行。 MIT 协议,免费,不用注册不用 API key,没有 Python 环境也能用——把任意单个 SKILL.md 贴到聊天框顶部就能当模式跑。

  15. Leonxlnx/earshot 仓库:https://github.com/Leonxlnx/earshot stars:★ 2,766(Python)|今日新增:+358 简介:给 coding agent 装上耳朵——用文字描述一个音频文件、找长录音里最好的那几秒、分辨真录还是代码合成,还能反过来用代码造音效。 为什么火:2.8 千 star,一天涨三百五,新项目。它的问题意识抓得极准:「AI coding agent 现在能写出渲染一部片子、一个产品演示、一个游戏的代码。它们仍然听不见自己做了出来的东西。」 分不清高级按键和廉价按键,听不出打击音比切镜晚了 80 毫秒,也听不出音乐在错误的地方涨起来。它的输出是「agent 能推理的证据」:一个文件用文字听起来是什么样、跟一段描述匹配得怎么样、长录音里最好的瞬间在第几秒、是真录还是代码合成、整部片子逐秒的听感转录、带标注的声音图,以及和专业级启动短片对比的评分卡。CPU 本地跑,CLI、Python API 和 MCP server 三种入口。0.4 版新增 51 种为「音乐主导型启动短片」做的音效(圆润 UI 弹音、木头塑料敲击、带 kick 的短切击和 sub 击、门控的钟琴和颤音琴音阶、水滴、相机快门、反镲、thump-whoosh、短暗 riser、亮 swish、爆发式 glitch 和中频叮),音效库现在 252 条。它还能反过来干活:earshot forge 用代码造声音然后自己听改进,earshot fit 把一段录音翻译成可以任意变体的代码。 那支 22 秒的发布短片里每一个声音都是 forge 造出来的,没有录音、没有音乐轨。

  16. lexmount/moli 仓库:https://github.com/lexmount/moli stars:★ 20,654(Rust)|今日新增:+354 简介:Rust 写的 agent 浏览器内核——不是 Chromium 的壳,自己有 DOM、样式和渲染,用 Chrome 十分之一的内存跑 agent 的活。 为什么火:2 万 star,一天涨三百五。它是今天唯一一个把「agent 需要浏览器但不需要浏览器的全部」这件事做到底的项目。架构很明确:libcurl 做网络、html5ever 解析 HTML、rusty_v8 执行 JS、Servo/Stylo 做选择器层叠和计算样式、Taffy + Parley 做盒模型和文本布局、AnyRender/Vello CPU 做软件渲染。它没有增量维护的布局树、没有 damage graph、没有保留的 display list、没有 GPU 合成器、没有持久窗口——每次刷新建临时工作树,冻结成不可变的 FrozenLayoutTree,然后扔掉工作树、样式借用、布局缓存和绘制状态。数字对比很硬:192 个真实公开网址的混合抓取测试里,Moli 103 个有效页(53.6%),Chrome Headless 101 个(52.6%),Lightpanda 85 个(44.3%),Obscura 57 个(29.7%)——中位耗时一样是 1.43 秒,但 Moli 中位 RSS 73 MiB、Chrome 是 773 MiB。agent 负载样本里 CDP 就绪 34.85 毫秒 vs Chromium 169.37 毫秒,峰值 PSS 102.46 MiB vs 348.82 MiB,进程线程 1/24 vs 11/123。Lexbench 1928 个任务里取 1308 个可比任务:Moli 0.1.1 过了 1071 个,成功率 81.88%,Chrome 参考引擎 99.85%,Kitesurf 62.08%。资源对比:Moli 每任务中位 CPU 100.6 毫秒、峰值内存 92 MiB,Chrome 是 687 毫秒和 697 MiB——用了 Chrome 15% 的 CPU 时间和 13% 的峰值内存。

  17. HarnessRouter/harnessrouter 仓库:https://github.com/HarnessRouter/harnessrouter stars:★ 3,621(Python)|今日新增:+353 简介:统一 harness 协议(UHP)的自托管实现——把 Codex、Claude Code、OpenCode 这些 harness 变成一个 OpenAI Responses 兼容 API,随时切换。 为什么火:3.6 千 star,一天涨三百五。它今天的看点不是 star 数,是那张 README 里的动图:不用 HarnessRouter,四个 harness 要产品方承担 36 项集成责任,加到第五个变成 45 项;用了 HarnessRouter,产品只保持一份集成。它已经接了 26 个 harness base——Codex、Claude Code、Hermes、Pi、DeepSeek Harness、OpenCode、Kilo Code、Qwen Code、Gemini CLI、Cline、goose、Kimi Code CLI、MiniMax Code、Aider、OpenHands、Grok Build、Agent Zero、MiMo Code……同一任务上跑了八种 harness × 模型配置的对照:成本从 223 credits 降到 0.47(99.8%),端到端延迟从 4 分 36 秒到 1 分 25 秒(3.2 倍)。它还老实说明了这个数字的边界——最低成本和最快的配置随任务变化,每个指标只比最好和最差的两个。社区版自托管,一条 Docker 命令,4GB 磁盘,不需要账号也不带任何试用 key。

  18. mw00/project-maya 仓库:https://github.com/mw00/project-maya stars:★ 1,843(C++)|今日新增:+202 简介:把 321B 的 GLM-5.3-Flash 和 748B 的 DeepSeek-V4.1-Flash 跑在你自己那台机器上——GPU 放常用的专家、RAM 放下一批、剩下的留在 NVMe,边聊边搬。 为什么火:1.8 千 star,一天涨两百。它的思路跟「量化压缩」那条路不一样:不是把模型压小,是把模型分层存放然后自己调度——「它把你对话里最常用的专家留在 GPU 上,下一批留在 RAM,剩下的留在 NVMe SSD,聊天过程中把它们搬来搬去」,启动时自动测量你的 GPU、CPU、RAM 和 SSD 并自我调优,数据不出机器。数字给得很克制:两卡 H100 上 124 tok/s,四张 4090 上 118,单张 RTX PRO 6000 上 81,单张 5090 上 30+,都是真实用户跑出来的。保真度也量化了:它自己的 GLM-5.3-Flash 量化版保留 FP8 模型零样本准确度的 97.7%–99.2%,DeepSeek-V4.1-Flash 的 Maya-S 有 92.6% 的时候跟原模型选出同一个 next token。四个尺寸对应不同内存池:Maya-S 96.5GB、Maya-S24 94.7GB(专门给 24GB 以下的卡,4-bit attention 腾出约 1.5GB 给专家,解码 +14%)、Maya-M 116GB、Maya-L 156.3GB。Maya-S24 那行「为 24GB 卡优化」最能说明它想服务谁。