
一位个人开发者,竟然在一众大厂中,杀进了抱抱脸 Models Trending 榜的前排?!
这是普通的一天,我也普通地刷着抱抱脸的 Trending 榜。
第一是 GLM-5.2,智谱最新开源模型,老熟人了,下载量 6 万多,不足为奇。
第二是百度的无限 OCR,最近悄悄开源的,一口气能解析 40 多页文档,下载量也来到了 7 万。
再往下看,突然出现了一个个人账号:yuxinlu1。

嗯……嗯?!
而且一占就是两个位置。
再一看下载量——最新数据已高达 20.7 万和 53.6 万。好家伙,这是什么神仙模型来了?
甚至在此前一周,这位个人开发者的模型一度霸榜抱抱脸,力压 GLM-5.2 一头,连智谱负责人都在 X 上公开推荐:

也就是说,在智谱、百度、Qwen、NVIDIA …这些名字中间,一个个人开发者账号硬生生挤进了 TOP,而且下载量还这么高。
不禁令人好奇:luyuxin 究竟是谁?怎么能量这么大?
"素人模型"冲上抱抱脸热榜
这波 Hugging Face 热榜,前排基本是大厂、明星团队和热门赛道在卡位。
比如智谱 GLM-5.2,753B 超大参数,国产明星大模型;百度 Unlimited-OCR,踩中了最近很火的 OCR 和文档理解方向。

再往下还有 Qwen 的 AgentWorld、英伟达的 LocateAnything、微软的 FastContext。
国产开源大模型的熟面孔也都在列:MiniMax M3、Kimi-K2.7-Code、DeepSeek-V4-Pro。

图像生成方向也有 Krea,新模型 Krea-2-Turbo 和 Krea-2-Raw 都在榜上。
结果里面还夹了两个luyuxin 的 12B GGUF 模型。
不 er …luyuxin 你也太醒目了吧…
仔细一看,这两个新模型,主要把Fable 5的编程推理能力,蒸进了一个本地能跑的Gemma4-12B小模型里。
4.5GB 显存就能跑,本地、离线、零 API 成本。普通玩家一张消费级显卡,甚至一台带统一内存的 Mac,就能把它跑起来。
两个模型的分工也不同。
V1 是Coder 版,主打写代码、解题、生成可运行代码。


据模型卡,它的训练数据是"可验证"的代码推理:每条思维链对应的代码,都得真跑过测试、通过了才留下。
教师数据主要来自 Cursor 的Composer 2.5,外加Fable 5—— Composer 2.5 做错的题,会交给 Fable 5 重新推一遍,生成新的推理链和正确代码。
V1 发布后,曾连续多日霸榜抱抱脸 Trending 榜榜首。
V2 是 agentic 版,加了多步工具调用能力,能当本地 Agent 用,会自己读、推理、动手、再验证。
作者还跑了 benchmark ——在 tau2-bench 的 telecom 子集上,基座 gemma-4-12B 得分 15%,V2 版模型得分 55%,大概是基础性能的3.5 倍。

不过作者也表示,这是本地自测、单一领域、20 个任务跑出来的相对值,不能跟官方榜直接比,他也坦白跟 frontier 大模型还有不小差距。
作者还提到:Fable 5 后来被下线了,只有他自己的数据集还保留着 Fable 5 "原始"的那份推理过程。
而社区贡献数据里缺失的那部分 reasoning,他改用 Claude Opus 4.8 ( xhigh ) 重新生成、一条条补了回来。
他也承认,重建出来的轨迹"可能和原版 Fable 5 有出入",但这是当时唯一可行的方案。
他还在 discussion 里透露,这套微调数据其实只有约 1 万条 examples。他强调,数据量没有大家想象得那么重要,真正关键的是质量、筛选和验证。
这套模型之所以能在抱抱脸上有这么高的热度,还有一个很现实的原因:本地能跑。
这两个模型都是GGUF 量化版。
元股证券:ygzq.hkGGUF 是 llama.cpp 生态里常见的本地模型格式,用户可以用 llama.cpp、Ollama、LM Studio、Jan 等工具直接加载。
这对 coding 场景尤其有吸引力。毕竟写代码、看仓库、跑命令、调 bug,经常涉及私有项目和本地环境。能在自己机器上跑,就意味着不用把代码传到云端,也不用每次都付 API 调用成本。
更关键的是,它门槛不算高。
V1 模型卡里写到,最小的Q2_K版本约4.5GB,只要有约 4.5GB 显存或统一内存,就能跑一个私有、离线的编程助手。

作者推荐的甜点位是Q4_K_M,大小约6.87GB;更高质量的 Q8_0 则约11.8GB。
V2 因为更偏 agentic,作者没有放 Q2_K。理由是压力测试没过,不够可靠。
所以 V2 的最小可靠版本从Q3_K_M开始,约5.7GB;推荐的Q4_K_M依然是约6.87GB。
作者还提前剧透了后续计划—— V3 已经在路上。
他表示,V3 仍然会沿着 12B 这条线继续做 coding+agentic 方向。作者说,自己也没想到这次后训练的提升会这么大,所以接下来会继续往前推。
尤其是在 tau2-bench telecom 上,V2 还有一些"过度尝试、反复 retry "的问题,V3 会继续通过更多训练来改。
另一方面,他还在做一个更大的版本:Qwen3.6-27B。相当于把同一套 coding+agentic 配方放到更大的底座上,给显存更宽裕的用户用。
一个人,40 小时,杀进大厂中间
十大配资平台推荐能单枪匹马冲上抱抱脸热榜,下载量加起来超 70 万,在一众大厂机构间杀出一席之地。
这位作者究竟是何方神圣?
量子位与作者取得联系后,也得知了他的故事。
他叫逯雨鑫,目前是美国一所高校在读的 AI 方向研究生,本科念的是数据与商业分析,中间还专门去补过一轮全栈开发,把前后端、软件开发、数据处理都学了。
这两个爆火模型,并不是他的主业,而是纯自费的个人项目。
"开源这东西其实只是花钱,并不会让你有任何收入。"他很清楚这一点,因此他做 V1 的最初动机,反而是"自我提升":
学校教的知识更新太慢,他读研时教授讲的还是两三年前的内容,而 AI 日新月异,他干脆拿这个项目来逼自己追上最新的东西。

为了做这些模型,他烧掉了整整一个 Claude Max 20 × 套餐,单是 V2 就花了 40 多个小时。
一条条合成数据、手动清洗、训练、评测、再训练,股票配资,多空杠杆,证券配资平台,平台排名几乎全是一个人扛下来的。
硬件上,他用的是一张 RTX 5090,显存为 32GB VRAM;另外还有约 96GB 的本地 SSD 资源可配合使用。实际能调动的资源规模大约在 128GB 左右。
对个人开发者来说不算差,但跟大厂和 AI Lab 的算力池完全不是一个量级。
他告诉量子位,整个过程里最耗时的其实不是训练,而是数据处理。
尤其是 agentic 数据,真实对话往往很长,一个任务可能有十几步,几千甚至几万个 token。但受限于显存,他训练时一次最多只能喂 2048 token。
所以他做了类似"滑动窗口"的处理:在每段多轮会话里,以最近一次用户消息为锚点,围绕一次工具调用,把上下文裁到预算以内。
V1 和 V2 都以 Gemma 4-12B 为底座。选它不是因为好做,恰恰相反,Gemma 4 的格式和工具协议都比较特殊,适配起来很麻烦,甚至很多客户端支持并不完善。
逯雨鑫表示,一方面是挑战自己;另一方面,是因为 12B 这个尺寸很有吸引力。
他算过,如果量化到 3bit 左右,很多 8GB 统一内存的 Mac 用户也能跑起来,还能留出一定上下文窗口。
我现在知道,很多人使用的电脑还是 8GB 左右的统一内存。所以我想在最大可能的参数量下,让更多人使用到。
逯雨鑫把本地模型的价值总结成两个词:
隐私,免费。
他觉得,很多人只是想让 AI 帮自己整理文件、处理数据、做 PPT,或者体验一下 agent,并不一定愿意每个月为 Claude、GPT 付费。
人可能就是想玩一玩,为什么非得要收费呢?
V1 发布后,他一开始没太关注榜单,只是像往常一样在模型卡里说:如果大家喜欢、下载量和 likes 多,他就继续做 V2。
没想到两三天后,模型突然从不知道多少名跳到第八;睡了一觉,又冲到第一。
随后,评论和 issue 大量涌进来。
他几乎每条都看。最多的时候,每天花三四个小时看 Hugging Face 评论、回复问题、测试用户反馈,再把结果告诉对方。
他表示:"社区有需求,我是真的在去做,这才是最关键的。"
原来还是个爱看网文的…
在 HF 上,逯雨鑫总共发布了 9 个公开模型,除了两个爆火模型,他还做过"直接蒸 Claude "的模型。

比如 gemma-4-12B-it-Claude-4.6-4.8-Opus-GGUF,可以理解成通用版 Gemma4-12B 蒸馏模型。
它不只限定编程,更像是在把 Claude Opus 的回答风格、推理习惯、thinking 能力,往这个 12B 本地模型里压。
另一个模型则干脆换上 JetBrains 的编程模型 Mellum2 当底座,专做推理蒸馏。
再继续往下看…
等等,怎么还有网文的微调模型啊?

好家伙,还分了四个题材,都是中文网文 LoRA,而且全都基于 Qwen3.6。

逯雨鑫告诉量子位,这其实是他最早开始做 Hugging Face 模型的入口。
因为他自己本来就喜欢看小说。追一本没完结的小说时,读者焦虑;作者日更码字也很辛苦。
于是,他想做一整套免费的小说生成 pipeline,用不同风格的中文小说 LoRA,让作者能用 AI 提速,读者也能更快看到内容。
但中文小说 LoRA 在 HF 上并不算热门,后来他发现用户更关注 coding 和 agentic,于是方向慢慢转到了现在这条线上。
当问及他对其他个人开发者有什么建议时,逯雨鑫说:真诚和坚持最重要。
真诚,是不要夸大模型能力。哪里强,哪里弱,都说清楚。
你要如实告诉大家。我骗你说我这有多强,但真实使用下来出现很多问题,下次我一发东西,你就不相信我了。
坚持,则是开源作者必须接受这件事:你一定会遇到不好的声音。
模型火了以后,逯雨鑫也遇到过质疑,但他还是决定坚持下去。
在他看来,开源这条路本来就很难。
就算登顶 Hugging Face 热榜,也不会直接带来收入。更多时候,是自己花钱买算力、花时间处理数据、回复评论、修 bug,然后还要面对少数负面声音。
而支撑他一路做下来的,还有一种很个人的工作节奏。
逯雨鑫提到,自己患有 ADHD。
过去这可能意味着很难长期按部就班推进一件事,但在 AI 这个变化极快的领域,快速切换兴趣、迅速进入 hyperfocus,反而成了某种优势。
他甚至认为:" AI 时代是 ADHD 的天下。"因为一个方向凉下来后,如果还一直钻在里面,等再转去学新的东西,可能已经晚了。
聊到最后,我们也抛出了那个最初的问题:
作为个人开发者,凭什么能在大厂中间挤进前排?
逯雨鑫的回答很中肯。
他认为大厂当然能做得更好,有更多 researcher,也有更强算力。
但大厂发布开源小模型,往往还承担品牌宣传、API 引流等目标;而个人开发者没有这些包袱,反而可以更专注地解决一个具体痛点。
我很高兴,但不是说我真的全面打败了他们,只是可能更认真一些。
在他看来,这正是个人开源作者的机会:不必做全能模型,而是把一个足够具体的问题做到好用。
如果你也想体验一下这款本地模型,链接已经放在下方。
温馨提示:目前最适配的平台是 llama.cpp,优先推荐大家使用 ~
HF 地址:https://huggingface.co/yuxinlu1
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法!
— 完 —
� � 点亮星标 � �
科技前沿进展每日见股票配资开户有年龄限制吗
优选证券杠杆网提示:本文来自互联网,不代表本网站观点。