新智元报道 AI看着自己的脑子改写自己 ,这一天还是来了! 7630亿参数的DeepSeek-V4.1-Flash,直接读取了自己做数学题时最深7层的内部激活状态。 摸清「快要算偏」的信号规律后, 它在不改半个权重的前提下, 亲手写了一段Python代码塞进推理流程「读脑自救」! 只要发现思路跑偏就当场回滚重算,在AIME与HMMT 2026数学竞赛上, 准确率原地暴涨7个百分点! 而这,还只是今天刷屏AI圈的DoubleAI重磅研究里的一个切面。 这家由Mobileye创始人Amnon Shashua创立的AI机构, 首次提出了一个颠覆传统深度学习的新范式—— 「机制干预」 。 相比以往模型只能在写死的架构里硬调权重,这套方法把编程Agent放进了训练与推理现场。 在训练中途 ,哪一层网络卡壳了,Agent就当场写几行Python代码塞进模型主干,实时接管计算! 靠着这手绝活,预训练模型只塞入20行代码,就在单次前向推理里跑起了梯度下降。 连塞10层代码后,30种经典算法的准确率更是从55%狂飙到 84% ! 研究一经发布,迅速在AI圈引发刷屏热议。 创始人Amnon Shashua放话,深度学习已经彻底跨过了「只调权重」的旧边界。 现在, 连神经网络架构本身都能在训练中自主进化,人类手搓模型架构的时代翻篇了! 联创Gal Beniamini更是感叹,当放手让大模型边训练边改写自己,最后长出来的架构连研究员都觉得不可思议。 它不再是纯粹的神经网络,而是 一半来自训练学出的权重,一半来自半路拼接的Python代码! 在进入实验细节之前,我们先来看看这套「机制干预」到底是怎么运作的: 第一步是找瓶颈 , Agent实时读取每层网络的梯度信号,揪出靠调权重学不会的短板。 第二步是写代码 , Agent现场生成几十个候选Python函数,实测哪段代码最能帮模型降误差。 第三步是热插拔 , 把胜出代码挂在初始值为0的门控后面并入网络,由后续训练自动把门控推开。 塞入20行代码,前向传播跑起梯度下降 第一组实验从语言模型预训练切入,验证训练中途塞入Python代码,能否帮模型更快压低预测误差。 在12层模型nanochat的1500步训练中,Agent先后三次出手塞入Python代码层。 每次代码一并入,模型预测误差(bpb)就 随之 连降三次 ! 训满1500步后,加代码层的模型相当于 白赚了15%的训练进度 。 而打乱逻辑的「假代码对照组」与常规训练完全重合,证明提分全靠AI写出的代码逻辑。 面对12层网络,Agent之所以能找准往哪一层塞代码,靠的是 「幽灵梯度」 。 它假想在某层后加个新模块,测算往哪个方向推能让误差下降最快。 滤掉常规噪声后, 第2层和第4层 的高需求热区便清晰显现出来! 锁定瓶颈层后,Agent写出几十个候选函数,在单批数据上实测谁最契合第2层的梯度方向。 接着,最高分函数挂在 初始值为0的门控 g 后面并入网络。 刚插入时门控输出为0,原有网络不受影响。 但短短100步内,梯度下降发现这段代码真能降误差,便自动把门控调整到了 0.58 ! 靠着这套流程,Agent在第1000步往末层塞进了一个最惊艳的 「错误记忆层」 。 这短短20行代码之所以震撼,是因为它 打破了以往「前向只能推理、反向才能改错」的定式 ! 不用等反向传播,模型边往后读就能边核对前文答案,当场算出预测误差,找出64个最相似的犯错位置。 紧接着,它直接在脑子里迈出一步梯度下降,在 单次前向传播内实现了边读边纠错 ! 训练半路插代码,比天生自带强17分 既然Python代码层这么管用,那么从训练第0步就把代码层装进模型行不行呢? 然而,第二组实验却测出了一个 完全反直觉的惊人反转 。 团队把模型的记忆窗口锁死在500词以内,考它能不能找回几千词之前的变量赋值。 同时,Agent写了一个能跨窗口查字典的「代码缓存层」,分三种时机装入模型: 常规训练基线 , 超出500词窗口的变量全部忘光, 召回率考 0% 。 第0步天生自带组 , 开训前就装好代码缓存层, 召回率停在 55% 。 第1200步半路插入组 , 先练1200步再半路塞入同一个缓存层, 召回率冲上 72% ! 同样的Python代码层, 训到半路才插进去,竟然比天生自带高出整整 17个百分点 ! 这个反转揭开了深层原因,如果开训第一天就给现成的代码捷径, 神经网络就会「偷懒」依赖外部字典 ,不去打磨底层表征。 相反, 先强迫模型在500词限制下把基础表征练扎实 , 撞上天花板后再接上Python代码,神经权重与符号代码才能发挥最大合力! 连塞10层代码,填平算法0分盲区 验证了「半路插入」的优势后,第三组实验挑战30种经典计算机算法,检验连塞10层代码能带来什么质变。 传统Trans
2026-11-17
小伙捡漏低价RTX 5080显卡:订单竟自动确认收货 最终被骗15800元
快科技11月16日消息, 据“平安西湖”公众号消息,杭州西湖区居民小杨(化名)近日因轻信短视频中的低价显卡信息,遭遇电信网络诈骗,损失15800余元。 近期,受AI算力需求挤占产能、原材料成本上升等因素影响,内存、显卡等电脑配件价格出现波动。一些不法分子趁机打着“降价出售”“低价货源”的旗号,诱导消费者下单。 11月5日,小杨在家刷手机时,看到一条声称RTX 5080显卡降价万元出售的视频。 心动...
2026-11-17
上海四年流失60万人!年轻人纷纷撤离,真相根本不是房价那么简单
近几年,上海人口流动数据的变化,成为社会热议的经济现象。 最新人口统计显示,2020至2024四年时间,上海外来常住人口减少六十万。 持续多年的人口净流入趋势首次出现明显松动,让外界产生诸多解读。有人认为上海城市吸引力下降,也有人将人口流失归因于生活成本过高。 单纯将人口波动归结为城市竞争力问题,是片面且表层的判断。 上海年轻人陆续离开的现象,本质不是一城一地的问题,它是全国人口结构剧变、经济模式...
2026-11-17
广州最远的3条公交线,一趟4块钱坐63公里,不少本地人没坐过
4块钱,63公里,从北京路一路坐到南沙。听起来像句玩笑,可广州真有这么一趟公交。地铁快是快,可车窗外面一闪而过,什么也看不清。有几条公交线,从老城区一头扎到城市边上,单程五六十公里,票价还不够买一杯奶茶。挑个不赶时间的下午,从总站上车,找个靠窗的位置坐下,窗外的高楼慢慢变成田野,再变成山,一个下午就这么过去了。 往南,4块钱从北京路坐到南沙 南沙K8路的起点在越秀区广仁路,离北京路步行街不远,坐地...
2026-11-17
借运:凡是有人向你讨要这五样东西,千万守住,不是小气是护身
大家好我是市井杂谈,每天给大家带来最新动态 ,内容随缘更,每篇都掏干货;如果你觉得这些信息对生活有用,就点个关注~ 很多人听过“借运”这个说法,第一反应就是迷信,觉得只是老辈人的口头传言。其实抛开玄学那部分,这句话背后藏的是人情边界。生活里总有一类人,自己状态不顺、日子过得吃力,不去想着踏实改变,反倒习惯性向身边人索取,一点点消耗别人的精力、隐私、资源。老人口里说的“借运”,放到今天来看,本质就是...