算力去哪了?国产大模型的算力阵痛期
本文由开元棋牌整理发布:
► 文 观察者网心智观察所 2026年11月16日,不少用户在打开DeepSeek客户端或网页版时,意外收到了一条弹窗提示。
系统告知用户,受算力约束,平台不再支持存续超过7天且无活跃交互的长对话,单次输入文字上限被缩短到约4万字,连续使用不到2小时的免费用户甚至会直接触发每日使用额度上限。
无独有偶,就在20天前的10月24日,月之暗面旗下的Kimi推出3万亿级参数的新模型K3.
1 Pro,上线不到12小时就因额度消耗过快和严苛的限流措施引发大批付费会员吐槽,官方不得不在10月26日凌晨发文致歉,为所有订阅会员重置并补偿25%的月度额度。
国内两大头部大模型产品在短短1个月内接连上演限额风波,将一个问题推到了普通用户面前:算力去哪儿了?
被掐断的长对话与算力饥渴 对于习惯拿AI工具修改几十页论文、批量处理代码或者进行长篇文档整理的用户来说,近期的使用体验明显打了折扣。
在DeepSeek的这次调整中,部分用户看到的闲置会话封存期限是7天,另一些用户看到的则是72小时。
那些平时积累了几十轮对话、已经调教好格式和背景资料的旧聊天窗口,虽然还能打开翻看历史记录,却无法再继续发送新消息。
系统给出的建议是新开一个对话,或者将历史记录导出到其他应用程序中使用。
这种主动收缩服务范围的做法直接反映出后台服务器承受的巨大负载。
根据全球多模型聚合平台OpenRouter公布的数据,在2026年10月19日至10月25日这1周内,DeepSeek V4.
1 Flash完成了33.
6万亿token的调用,环比暴涨801%,到了11月9日至11月15日这1周,token调用量更是冲到了59.
2万亿,稳居全球第1位。
要知道,该模型在7月底至8月初的周调用量仅为7.
22万亿,不到3个月时间,需求翻了8倍以上。
调用量激增的直接后果是服务频频亮起红灯。
自2026年10月以来,平台至少发生了8起服务异常或中断事件。
其中10月15日的故障持续了4小时52分钟,网页端、客户端对话服务以及核心应用程序接口同步受限。
为了缓解危机,平台在2026年8月就对开发者接口启用了峰谷分时定价,闲时价格定为高峰时段的一半,试图用价格杠杆引导开发者错峰调用,如今更是直接对免费用户筑起了额度墙。
同样的算力紧绷感也笼罩着Kimi。
2026年10月下旬上线的Kimi K3.
1 Pro支持100万token的上下文窗口,在代码生成和长程任务上表现亮眼。
尽管官方将接口调用的输入价格从每100万token20元下调至13元,输出价格从100元下调至68元,但购买了包月套餐的个人用户却发现额度极不耐用。
新模型为了提升回答质量,在后台频繁启动多智能体集群并发处理任务,单个任务消耗的token数量成倍增加。
官方在半年内第3次公开道歉时坦言,必须通过调整后台配置来减少不必要的子任务调用和输出长度,以此保住基础算力的稳定供应。
大模型的记忆有多贵 为什么大模型公司会如此惧怕用户的长对话,甚至不惜得罪重度用户也要回收7天不活跃的聊天窗口?
这要从AI大模型在电脑芯片里的工作方式说起。
实际上,大模型本身在每次回答完毕后都会立刻失忆,之所以记得住上下文,是因为用户发送第10句话时,后台系统必须把之前说的第1句话到第9句话,连同AI回答的所有内容,打包成一个巨大的文本包,重新发给芯片进行计算。
如果每次都从头计算一遍,不仅速度慢得让人无法忍受,芯片的耗电量也会成为天文数字。
为了解决这个问题,人们发明了一种名为键值缓存的技术。
简单来说,就是把之前聊天内容计算出来的中间结果,临时存放在图形处理器最核心、读写速度最快的高带宽显存里。
一旦输入新问题,芯片只需直接读取这些存好的中间数据,就能快速接上话茬。
然而,高带宽显存是整台AI服务器里最昂贵、最稀缺的硬件资源。
随着对话轮数的增加,或者用户一次性投喂了数万字的长篇文档,这些中间数据就会像滚雪球一样越积越多,死死占住大量的显存空间。
如果一个用户开启了一个包含几万字资料的对话窗口,聊了几句后就把它晾在一边,系统为了保证这个用户随时回来都能秒回,就必须在显存或高速存储里一直保留这批数据。
几千万用户同时保留着成百上千个长期不活跃的长对话时,再庞大的服务器集群也会被挤爆。
跨洋电缆另一端的监管风暴 就在国内大模型厂商精打细算、抠搜显存的同时,全球算力供应链的硬件流动正在经历一场剧烈的震荡。
就在DeepSeek推出限额措施的同一天,2026年11月16日,美国商务部在华盛顿公布了一项临时新规,将监管的视线投向了东南亚和南美的海外数据中心。
在过去几年里,为了满足庞大的AI训练与推理需求,许多国内科技企业除了在国内采购设备,还广泛采用了一种出海租算力的模式。
既然最顶尖的算力芯片难以直接运回国内,企业干脆把代码和数据传到海外,通过租赁第三国数据中心的服务器,远程调用里面的英伟达高
更多体育热点,关注开元棋牌。