谷歌新论文把内存股价干崩了！KV cache压缩6倍，“谷歌的DeepSeek时刻”

广告 谷歌新论文把内存股价干崩了！KV cache压缩6倍，“谷歌的DeepSeek时刻” 10:00 广告 广告 广告 了解详情 > 会员跳广告 首月9.9元 秒后跳过广告 开通搜狐视频黄金会员，尊享更高品质体验！ 1080P及以上画质仅为黄金会员专享> 开通/续费会员 抱歉，您观看的视频加载失败 请检查网络连接后重试，有话要说？请点击 我要反馈>> 正在切换清晰度... 播放 按esc可退出全屏模式 00:00 00:00 00:13 广告 只看TA 高清 倍速 剧集 字幕 下拉浏览更多 5X进行中 炫彩HDRVIP尊享HDR视觉盛宴 超清 720P 高清 540P 2.0x 1.5x 1.25x 1.0x 0.8x 50 哎呀，什么都没识别到 反馈 循环播放 跳过片头片尾 画面色彩调整 AI明星识别 视频截取 跳过片头片尾 是 | 否 色彩调整 亮度 标准 饱和度 100 对比度 100 恢复默认设置 关闭 复制全部log 梦晨 发自 凹非寺 量子位 | 公众号 QbitAI 学术会议ICLR，居然和美光和西部数据大跌扯上关系了？ 两家存储芯片巨头股价大跌，没有财报暴雷，没有供应链断裂，只是谷歌展示了一篇即将在ICLR 2026正式亮相的论文。

谷歌研究院推出TurboQuant压缩算法，把AI推理过程中最吃内存的KV cache压缩至少6倍，精度零损失。

市场的解读简单粗暴，长上下文AI推理以后不需要那么多内存了，利空内存。

网友纷纷表示，这不就是美剧《硅谷》里的Pied Paper？ Pied Piper是2014年开播的HBO经典美剧《硅谷》里的虚构创业公司，核心技术就是一种“近乎无损的极限压缩算法”。

2026年，类似的算法在现实世界居然成真了。

KVCache量化到3 bit 要理解TurboQuant为什么重要，先得理解它解决的是什么问题。

AI大模型推理时处理过的信息会临时存在KV Cache，方便后续快速调用，不用每次从头算起。

问题是随着上下文窗口越来越长，内存消耗急剧膨胀。

KV cache正在成为AI推理的核心瓶颈之一。

传统的解决思路是向量量化，把高精度数据压成低精度表示。

但尴尬的是，大部分量化方法本身也需要存储额外的“量化常数”，每个数字要多占1到2个bit。

TurboQuant用两个改动把这个额外开销干到了零。

PolarQuant（极坐标量化）： 不用传统的X、Y、Z坐标描述数据，转而用极坐标”距离+角度”。

谷歌团队发现，转换后角度的分布非常集中且可预测，根本不需要额外存储归一化常数。

就像把“往东走3个路口，往北走4个路口”压缩成”朝37度方向走5个路口”。

信息量不变，描述更紧凑，还省掉了坐标系本身的开销。

QJL（量化JL变换）： 把高维数据投影后压缩成+1或-1的符号位，完全不需要额外内存。

TurboQuant用它来消除PolarQuant压缩后残留的微小误差。

两者组合后PolarQuant先用大部分bit容量捕捉数据的主要信息，QJL再用1个bit做残差修正。

最终实现3-bit量化，无需任何训练或微调，精度零损失。

8倍加速，Benchmark全线拉满 谷歌团队在Gemma和Mistral等开源模型上，跑了主流长上下文基准测试，覆盖问答、代码生成、摘要等多种任务。

在“大海捞针”任务上，TurboQuant在所有测试中拿下完美分数，同时KV cache内存占用缩小了至少6倍。

PolarQuant单独使用，精度也几乎无损。

速度提升同样显著。

在英伟达H100 GPU上，4-bit TurboQuant计算注意力分数的速度，比32-bit未量化版本快了8倍。

不只是省内存，还更快了。

在向量搜索领域，TurboQuant同样超越了现有最优量化方法的召回率，而且不需要针对具体数据集做调优，也不依赖低效的大码本。

AI内存的DeepSeek时刻？ Cloudflare CEO评价“这是谷歌的DeepSeek时刻”。

他认为DeepSeek证明了用更少的资源也能训出顶尖模型。

TurboQuant的方向类似，用更少的内存，也能跑同样质量的推理。

谷歌表示，TurboQuant除了可以用在Gemini等大模型上，同时还能大幅提升语义搜索的效率，让谷歌级别的万亿级向量索引查询更快、成本更低。

不过TurboQuant目前还只是一个实验室成果，尚未大规模部署。

更关键的是，它只解决推理阶段的内存问题。

而AI训练环节完全不受影响。

论文地址： https://research.google/blog/turboquant-redefining-ai-efficiency-with-extreme-compression/ 参考链接： [1]https://x.com/eastdakota/status/2036827179150168182?s=20 — 欢迎AI产品从业者共建 —

五代十国时期桀燕时如何建立又是如何灭亡的？

燕，乃是五代十国时期，盘踞在华北幽州地区的一个割据势力。

虽然割据一方，但刘仁恭父子实际上都不是合格的帝王，在自己地盘刚刚稳定下来之后，便开始骄傲自满、骄奢淫逸，弄的怨声载道。

历经父子两代，在刘守光悍然称帝之后，桀燕随即便被晋王所灭。

刘仁恭割据一方，并无称帝空间　　刘仁恭原本是卢龙节度使李可举麾下将领，后来在景福二年(893年)，卢龙节度使李匡威被其弟弟李匡筹驱逐，导致刘仁恭手下士兵已过论调日期而无法返回，于是士兵们便推举刘仁恭为领袖，回师攻取幽州，但去而被李匡筹所击败，于是转而投奔。

乾宁元年(894年)在刘仁恭的游说之下，李克用逐攻陷幽州，并于次年表奏朝廷以刘仁恭为卢龙留后，随后不久刘仁恭便被任命为卢龙节度使。

乾宁四年(897年)，李克用打算攻打镇国节度使韩建，援救被挟持的，因而向刘仁恭征兵，结果被拒，于是怒而引兵攻之，结果遭遇大败，刘仁恭逐趁机摆脱河东控制，开始了割据一方的岁月。

乾宁五年(898年)刘仁恭率军打败义昌节度使卢严威，吞并义昌，并以长子刘守文为义昌节度使。

此后由于在光化二年(899年)的南征中被击败，刘仁恭实力大损，就此周璇于李克用和朱全忠之间。

天钓三年(906年)朱全忠在经过一系列扩张之后，开始对卢龙大举发动进攻。

由于此时华北地区仅剩下了河东李克用和卢龙刘仁恭，因此李克用不计前嫌，对刘仁恭进行了救援。

而刘仁恭此时，却因可以称霸一方而志得意满，不再由进取之心，反而在大安山修筑宫殿，开始骄奢淫逸起来。

后来，刘仁恭之子刘守光因与刘仁恭的爱妾通奸，被刘仁恭断绝父子关系。

天钓四年(907年)宣武将领李思安攻取幽州，刘仁恭却依旧在大安山享乐，刘守光于是从城外率军击败李思安，随即自称卢龙节度使，随后将身在大安山刘仁恭抓获并囚禁。

　　刘仁恭之所以没有称帝，一方面源于当时还处于唐末时期，天下还有，此时称帝无异于公然谋反。

另一方面当时天下形势极为复杂，各地节度使虽然纷纷割据一方，但此时如果谁敢称帝，毫无疑问将成为众矢之的，反而给了他人扩张的一个借口，就像时期的一样。

刘仁恭虽然后期有所昏聩，但毕竟不是傻子，想必这个利害关系还是明白的。

　　刘守光在囚禁了自己父亲刘仁恭，并自立为卢龙节度使之后，驻守沧州的刘守文大为恼火，立即起兵讨伐刘守光，结果屡遭战败，无奈之下只得向契丹和吐谷浑求援，得到四万援兵之后，刘守文这才打败刘守光。

　　眼看就要胜利了，结果刘守文自己作死，他竟然跑到阵前，挥泪大喊“不要杀我弟弟”。

结果被刘守光手下大将元行钦瞅准时机，纵马出镇便将刘守文给生擒活捉了，结局可想而知，刘守文的大军就此灰飞烟灭，被刘守光打的大败。

　　此后，刘守光以刘守文为质，开始向义昌进兵，沧州守将孙鹤奉刘守文之子刘延祚为主公，拼死坚守沧州，奈何城中存粮不足，眼看已经到了人吃人的境地，刘延祚只得投降。

得到沧州之后，刘守光便立即处死了刘守文。

而刘守光则随后被太祖朱全忠封为燕王，接下来的刘守光与其父刘仁恭并无二致，眼看周边局势稳定，于是便开始荒淫无度和暴虐无比起来。

后梁开平五年(911年)刘守光不顾麾下将士、臣子的规劝，悍然称帝，国号大燕，定都幽州，改元应天。

　　刘守光刚刚称帝不久，晋王李存勖便发兵讨伐，与镇州和北平国夹击幽州。

刘守光孤立无援之下，只得乞降。

结果等到李存勖亲自到来，刘守光又在李小喜的规劝下犹豫了起来，而李小喜却于当晚便投降了。

次日，李存勖下令攻城，幽州逐被攻破，刘仁恭及其亲属三百余人全部被抓，桀燕就此灭亡。

刘守光虽然逃出了城，但不久后便被抓获，最后刘仁恭父子全部被李存勖处死。

　　在称帝这件事上，刘守光显然没有刘仁恭谨慎，其称帝颇有些不自量力，朱全忠的势力如此之大，其称帝尚且遭到大量节度使抵抗和讨伐，何况他一个小小的卢龙节度使。