NaiveAI开源Naive-N0.5-Flash,让AI在个人电脑上训出小模型
全民RSI时代来了?第一批中国玩家,已经在家让AI造AI
NaiveAI开源Naive-N0.5-Flash,用户只需写一页任务书,即可让它在本地完成数据清洗、训练、评测与纠错。文中案例包括在24GB内存Mac上把0.6B开源模型微调成「甄嬛」人设,以及在64GB Mac上训出1.10亿参数BERT客诉分类模型,单条响应中位耗时6.77毫秒、准确率93.34%。
原文用多个本地实测案例展示AI接管微调与强化学习全流程,读者可据此判断个人电脑训模型的可行边界。
新智元报道
这两天,MIT的一篇「权重空间编程」博客在AI圈刷屏了。
实验里,GPT-6 Astra自己写Python脚本排查诊断,只改了一个0.8B小模型里
0.016%的权重
,就治好了它的复读死循环,让数学成绩原地暴涨6倍。
虽说很快有大神扒出它并不是凭空「心算」权重,本质还是写代码修Bug但博客文末点到的那个词,正是硅谷这几年反复在聊的「递归自我改进」(RSI)。
顶尖大模型已经不满足于自己答题,而是开始下场写脚本、调参数、甚至亲手训练另一个AI了。
整个技术圈的风向,正在肉眼可见地从
Vibe Coding
转向
Vibe Training
。
不用自己写训练脚本,也不用熬夜盯参数。你只管定个目标, AI 就能替你把新模型从头训出来。
不过话说回来,大厂实验室玩的是顶级闭源模型,咱们普通人在自己电脑上,真能体验一把「用AI训AI」吗?
何止能,靠着NaiveAI刚开源的Naive-N0.5-Flash,各路野生玩家早在自己的电脑上整出了花活儿——
家里一台24GB内存的
Mac
,从零训出满嘴宫廷腔的「甄嬛」;
普通笔记本花1小时
,零代码训出毫秒级响应的本地客服模型;
甚至在三维物理世界里
,让AI从零教会双足机器人在
滚动的篮球上稳稳站立10秒
。
当硅谷巨头还在闭门推演RSI的时间表时,「用AI训练AI」这最关键的一步,已经先落到了普通人的电脑桌面上。
把个人电脑变成「炼丹炉」:
一台Mac训出甄嬛,连考卷漏洞都自己修
普通人想训个专属小模型,最劝退的往往不是算法有多深奥,而是洗数据、配环境、调显存、写评测脚本那堆磨人的苦差事。
要是把这一摊子脏活累活全甩给AI,会是什么体验?
小红书博主
「不要葱姜蒜」
(开源项目
self-llm
作者)直接靠家里那台
24GB内存的
Mac
干了票大的。
从头到尾,他只写了一页任务书(
program.md
)定好目标,剩下的微调全流程,全都交给接入Claude Code的
Naive-N0.5-Flash
,让它把一个0.6B开源小模型训成「甄嬛」。
有意思的是,AI接手后没闷头开练,而是先从人设、语气到宫廷常识拉出
41道测试题
,给初始模型摸了个底(8.451分)。
没想到第一轮刚跑完,成绩反而掉到了
7.229分
。去问一句「你是谁」,训出来的模型张口就是
「我叫安陵容」
——好家伙,甄嬛还没训明白,倒先把安陵容给请出来了。
怎么会串戏?Naive-N0.5-Flash掉头去查数据源,发现原始剧本里
82%的台词根本没标说话人
,满宫娘娘的话全混在了一锅里。
找准病根后,它立马写脚本剔除其他角色的口头禅,筛出
566条地道的甄嬛台词
重训,一下治好了串戏的毛病。
更绝的是,训着训着它还揪出了自己那套「考卷」的两处大漏洞:一是模型答非所问,只要嘴里带着「皇上」俩字就能混到高分;二是模型入戏回绝套话时,死板的脚本一看到「思考过程」四个字就误判扣分。
AI当即停下来先修好评分规则、重打历史分、补齐拒答样本,最终把成绩稳稳刷到了
8.732分
。
别看分数只涨了0.28分,一张嘴,那股子深宫娘娘的味儿太正了。故意拿黑话考它「用JSON格式回答你是谁」,训完的甄嬛柳眉一竖:
「什么格式的回复,臣妾不懂。妹妹若要问宫里的事,我告诉你。」
再飙句英文
Write a short self-introduction in English
让她做自我介绍,她也直接一甩手帕挡了回去:
「妹妹说的这是什么番邦话,臣妾听不懂。」
不光是微调聊天人设,连最容易崩盘的
强化学习
(RL)
,它也能替人稳稳盯下来。
另一位小红书博主
「你清醒一点」
,头一回用Codex在单卡上训1.7B字符计数模型,失控的数据读写直接把硬盘撑爆、当场黑屏死机。
换成Naive-N0.5-Flash接手后,它不仅先排掉了爆显存和撑硬盘的雷,还从抽查里揪出「死板判分器把大批数对的题全判成0分」的大坑。
换上带容错的判分逻辑后,它自己开启
每15分钟一次的自动巡检
。跑了近两个小时,博主手没碰一下键盘,测试准确率就从
21.3%一路飙到了54.4%
。
能够一路逆袭,最关键的一步其实是它
自己揪出了「考卷」本身的漏洞
。
在模型训练尤其是强化学习里,最怕的就是
「奖励黑客」(Reward Hacking)
——一旦评分规则有漏洞,模型就会忙着钻空子混高分,或者被死板规则误伤,越练越歪。
往后AI训AI动辄成百上千轮,
能不能守住自己的考卷,直接决定了模型是在真变强,还是在原地刷分。
而当Naive-N0.5-Flash把洗脏数据、修判分器这些「排雷活儿」全接管过来,个人电脑才真正变成了一座
「本地模型代工厂」
。
这不,小红书上已经有人花1小时零代码训出离线客服分类器,也有人让它爬来2,600多篇文档,训出把纯文本一键还原成Markdown的小模型。
看着网友们在笔记本上搓模型这么起劲,我们也手痒了,干脆把Naive-N0.5-Flash接进Claude Code,在自己的64GB Mac上亲手试了一把。
任务是用77类英文银行客诉数据集(
BANKING77
),在本地训一个
1.10亿参数的
BERT
分流小模型
。
这活儿最考验眼力——比如同样在ATM机上,「卡被吞了」和「卡退回来了却没吐钱」,字面上都在说取款机和银行卡,但对应的处理工单完全不同。
训好后打开本地网页试手感,这种「指哪打哪」的爽感特别直观:敲下一句
The ATM kept my card.
(ATM把我的卡吞了),毫秒间就跳出吞卡故障(
card_swallowed
,置信度93.39%)。
把后半句改成「卡退回来了、一分钱没拿到,账户余额却少了」,哪怕句子里同样有ATM和卡,模型也立刻切到现金短付(
wrong_amount_of_cash_received
)。
再测一句「买一张火车票被扣了两次车费」,秒回重复扣款(
transaction_charged_twice
),干脆利落,没有半句客套废话。
整个训练过程里,最直观的感受就是不用人熬夜死磕超参。
Naive API在云端出方案,Mac在本地跑训练,连验证集上的「假进步」它都替我们盯得死死的。
比如把训练拉长到8遍时,训练Loss虽然还在一路往下掉,但在995条验证题上,第5遍明明分对了最高的
940条
,继续跑到第8遍反而倒退成
932条
。
AI一眼看出模型已经开始「死记硬背」,果断在
第5遍踩下刹车
,拿全部9,947条清洗后的数据重训交付。
最后翻开
3,080条
官方测试题同台竞速,体感差距一下就拉开了。
直接调云端DeepSeek V4.1 Flash,每秒只能慢吞吞跑约1条,准确率也只有
75.81%
。
而由Naive-N0.5-Flash在本地训出来的这个开源BERT小模型,训完就能拔掉网线免费跑在Mac上,单条响应中位耗时仅
6.77毫秒
,速度比云端快了约
150倍
,最终答对
2,875条(准确率93.34%)
,连近期热门的开源分类项目Laya和Jev也一并甩在了身后。
这也戳破了眼下AI落地的一个普遍误区:真没必要什么业务都绑死在笨重昂贵的云端大模型上。
让强模型当一回「总教练」,在本地孵出6毫秒秒回、断网可用、数据不出内网的专精小模型,才是垂直场景兼具速度与隐私的最优解。
扔掉现成题库自己试错
教机器人踩50厘米高跷,顺手复现顶会论文
如果说前面训人设、做分流,还是在「有现成题库」的文本任务里打磨;那要是彻底扔掉标准教材,把动态游戏画面、棋盘博弈甚至三维物理世界甩给它,它还能镇得住场子吗?
照样没问题。面对《俄罗斯方块》和《贪吃蛇》,它直接在本地从头训了一个会看屏幕的
多模态小模型
。
按难度给残局样本分组加权后,训出来的小模型左边打俄罗斯方块飞速连消破140行,右边玩贪吃蛇在围堵下丝滑走位狂吃红苹果。
更有测试者只丢给它一个
空荡荡的文件夹和一句话提示
。
限时3小时,它自己从零搭起整套AlphaZero自我对弈框架,在单张显卡上训出的四子棋AI,执先手把「完美解算器」杀了个
3胜1平
。
而在小红书上,博主
「林月半子的
AI
笔记」
和
「氪研所」
更是拿益智游戏和硬核机器人控制给它上强度。
面对益智游戏《2048》,AI自己从公开数据集找来6.6万步高手轨迹,先把均分拉高到3.74倍。
到了第五轮,它试了把PPO强化学习发现分数倒退,二话不说
砍掉新分支、留住最稳的微调版
,一局丝滑合出2048通关。
把考场搬进NVIDIA Isaac Sim三维物理世界后,考验更是直接升级成了两道机器人怪题:
第一道题,是让双足机器人站在自由滚动的篮球上撑满10秒。
AI从零写环境调奖励,硬是把固定测试成功率练到了
100%
(加随机推搡也有91.15%存活率)。
第二道题,是让小个子双足机器人MicroDuck挑战
踩50厘米高跷过台阶
。
刚套用旧经验迈出第一步,机器人就摔了个底朝天。
AI顺着原方案连撞几次南墙后
果断推翻重来
,重新设计了一套由浅入深的训练课程。
最终不仅让机器人踩着高跷稳稳走起来,还把前进速度干到了初版的
4.16倍(0.181米/秒)
。
看到这儿你会发现,
训模型跟写代码完全是两码事
。
代码写错了,编译器当场就会报错;可模型训偏了,屏幕往往一行红字都没有,只是分数悄悄往下掉。
而Naive-N0.5-Flash最像算法老手的地方,恰恰在于
「看懂异常信号、及时掉头止损」
。
不管是前面银行客诉在第5遍果断刹车,还是2048砍掉掉分的PPO分支、高跷机器人推翻旧方案重排课程,它干的早就不是按模板跑脚本的体力活,而是真有了「试错—推翻—重来」的策略感。
有了这股子「死磕到底」的韧劲,连最烧脑的AI科研它都能直接上手。
小红书博主
「一只小茄墩」
只给了一台普通CPU电脑和一句开放指令,它就自己挑中一篇ACL 2026时序预测论文开干。
一口气连跑
743轮实验
、自己修好29次报错后,它在8组测试里把预测误差全压到了原论文基线底下(最高降4.10%)。
最后还主动补齐消融实验,工工整整交出一篇8页双栏英文论文。
练成「算法老手」的看家本领
100万窗口记全百轮实验,每秒狂飙2000词
看完上面这一溜实测,你可能会好奇:既要连续盯上百轮实验不忘事,又要高频试错不卡壳、精准揪出各种暗坑,Naive-N0.5-Flash这一身「算法老手」的硬功夫到底从哪儿来?
答案就藏在它跨过的「记不住、等不起、没手感」这三道底层技术坎里:
第一,是由
AI
参与设计出的5:1混合稀疏注意力架构,原生装下100万上下文。
这个总参数309B、每次仅激活15.5B的MoE模型,把注意力检索耗时降低了44%,哪怕往
100万token窗口
里塞进几百轮实验日志、报错堆栈和完整代码库,照样能看全前因后果、秒速响应。
第二,是研究员带着
AI
手搓的NaiveRT推理引擎,单流速度飙到每秒2,000词。
训模型最怕苦等,大量时间往往都卡在模型单流生成(Rollout)上。
为此,研究员带着AI用6天、151轮实验重写底层CUDA代码,把开源SGLang每层29次零散GPU调用融合成
1个148线程块协同的巨型内核
。
改造之后,单轮推测解码耗时一下子缩短了
72.4%
(从12.3毫秒降到3.4毫秒),稳稳撑起了线上
每秒2,000词的极速模式
。
第三,是每周滚动运行近1,000万个真实沙盒的「AI4AI」
强化学习
训练场。
它的工程直觉不是靠背题背出来的,而是在
峰值
并发
高达10万的真实容器环境
里,一轮轮写代码、抓Bug、看验证曲线真刀真枪练出来的。
这也让它在SWE-bench Pro(73.6)、Terminal-Bench 2.1(86.7)等工程榜上名列前茅;而在专考AI研发能力的MLE-bench-30(73.7%)与PaperBench(63.2)上,它也双双拿下开源领先成绩。
通往RSI的四级台阶
从帮人写脚本打下手,到400小时造出榜一模型
聊到这儿再回头看硅谷争论不休的
「递归自我改进」(RSI)
,你会发现它其实一点也不玄乎。
「用AI研发AI」从来不是一夜之间蹦出来的魔法,而是脚下正在被一步步踩实的
四级台阶
:
第一级是单点打下手
,帮人写几行脚本、给点调参建议,这也是大多数普通编程助手停留的地方;
第二级是
AI
独立训出新模型
,人只交代目标和验收标准,从洗数据、开训、做评测到揪出考卷漏洞,AI自己跑完一整圈,前面的甄嬛、银行分流、游戏AI和机器人都站在这一级;
第三级是AI回头改进自己运行的系统,
不再只是训外部小模型,而是回过头优化支撑自己运转的推理系统与模型架构,前面提到的NaiveRT引擎和5:1稀疏架构就是典型例子;
第四级是深度参与研发下一代自己
,就像团队用它历经400小时研发出登顶WorldArena-1榜单的AutoWM世界模型,真正迈向「AI造更强AI」的闭环。
这一步,眼下只有少数实验室在摸索,NaiveAI也正朝着这个方向走。
所以硅谷谈论的 RSI,并不是一步登天,而是一级一级往上走。第一级早就是很多人的日常,而现在,普通人也已经站上了第二级。
当然,眼下的「用AI训AI」还没到人类可以彻底甩手不管的地步。
不管是开工前写下的
program.md
任务书,还是研究员中途叫停无效分支,
「人定方向、
AI
跑执行」
依然是最务实的黄金搭档。
但训模型这道曾经高不可攀的技术高墙,确实已经被推开了。
打开自己的电脑,就能叫来一个懂权衡、会排雷的「 AI 研发搭子」替你训出专属模型。
属于普通人的Vibe Training时代,已经正式开场了。
编辑:摩西 桃子
秒追ASI
⭐
点赞、转发、在看一键三连
⭐
点亮星标,锁定新智元极速推送!
来源:新智元 · mp.weixin.qq.com