DeepSeek的推理又提速了，这次的关键不是算力堆上去，而是算法更聪明了。百度

基地科技切片 2025-10-28 18:15:19

DeepSeek的推理又提速了，这次的关键不是算力堆上去，而是算法更聪明了。百度在 SGLang 里加了一套多令牌预测机制（MTP），让模型一次能连说几句话，而不是一口气只挤出一个 token。

结果就是：同样的 GPU，吞吐量翻倍还多。3-token 模式的表现几乎碾压传统推理流程。对开发者来说，这意味着未来的大模型不只是更强，而是更快，真正从算力竞争，走向算法效率的较量。

0 阅读：20

猜你喜欢

基地科技切片

基地科技切片

感谢大家的关注

作者最新文章

1
美国警方的“赛博战车”真上路了，特斯拉Cybertruck正式上岗执勤，这造型放
2
华为日照金山路由器要发布了，颜值在线，就看价格香不香了[doge] ​​​
3
OpenAI重组意味着什么OpenAI这次重组，说白了就是“理想主义和资本的再平
4
刷到一条挺有意思的帖子，有人发了张印着 Amazon 的“小导弹”，配文“亚马逊
5
英伟达刚在华盛顿的 GTC 大会上发布下一代Vera Rubin超级芯片，还豪掷
6
到底是先把事做成，再做好。还是直接把事做好。大家觉得两者哪个效率高？ ​​​
7
最新数据显示，Anthropic 的 Claude 在企业级大模型 API 市场
8
DeepSeek的推理又提速了，这次的关键不是算力堆上去，而是算法更聪明了。百度
9
马斯克之前宣传的Grokipedia 上线了，号称用AI重写人类知识。界面神似维
10
影石公布Q3财报：本季度营收29.4亿元，同比大增92.64%；前三季度累计营收

热门分类

推荐 热榜 军事 NBA 体育 社会 明星八卦 娱乐 财经 科技 汽车 历史 国际 游戏 动漫 公益 搞笑 商业 互联网 数码 国际足球 房产 家居 时尚 科学探索 职场 育儿 股票 教育 影视 情感 热点 中国军情 武器 中国南海 中国足球 亚洲杯 科比 综合体育 CBA 投资 大咖秀 外汇 创业 风口 SUV 豪车 概念车 优惠 新能源 美国 欧洲 朝日韩 俄罗斯 孕期 街拍 婚姻 正能量

科技TOP

1
这是做什么工作的？电脑上也看不懂
2
我预感红米k90可能会卖爆！这外观设计颜值一点不输小米17系列，再加上旗舰级别
3
老美开心了，终于让英伟达倒闭了！刚刚英伟达总裁黄仁勋对外宣布：中方市场份额降
4
华为Mate80会在2025年11月发布，大家最关心的是它用的芯片，麒麟9030
5
陈奕迅将现身K90发布会今晚陈奕迅会携新版《K歌之王》空降K90系列发布会现场，
6
中国移动你是良心发现了吗？中国移动你是良心发现了吗？18年的老用户了，每个月就
7
这下你用iPhone的控制中心不会迷茫了。​​​
8
估计不止刘强东和雷军就连马云也发懵了于东来最近这是怎么了，他竟然又说50万元3小
9
10月份即将发布的新手机，看看有没有你喜欢的？
10
华为Mate70Pro在某多多上面百亿补贴的价格才四千多？敢不敢买？看上m

科技最新文章

1
即将开启11月中端影像机大战！OPPO、vivo、荣耀两亿像素普及！！三款
2
华为当年的一个部门做变频器，觉得利润低没前途，于是放弃了。后来那波人，慢慢搞慢慢
3
继小米手机智能工厂、小米汽车超级工厂后，小米第三座大型智能工厂小米智能家电工厂正
4
一加Ace6价格正式公布，价格如下，12+256259916+256
5
全世界最先进的芯片企业，美国高通公司和英伟达公司，先后都被中国进行了制裁或者立案
6
双十一iPadAir也降价了，现在值得入吗？盯了好久了，iPadAir终于
7
轻智能手表Top3神仙打架，都可闭眼入！？这几天选轻智能手表选到脑壳疼，就去参
8
华为Pura80Ultra长焦人像对比iPhone17ProMax样
9
nova14系列一图看懂活力版/数字版/Pro/Ultra，根据价格和处理器，大
10
iPhone17e或最便宜苹果手机如果苹果也来下场卷的话，那智能手机市场又会热闹