小米大模型上线新模式 推理速度突破1000 tokens/s
6月8日晚，小米型上线新小米MiMo技术团队正式上线Xiaomi MiMo-V2.5-Pro-UltraSpeed模式，大模在通用GPU上推理速度突破1000 tokens/s。模式
MiMo-V2.5-Pro-UltraSpeed通过对模型推理系统的推理突破全链路工程能力优化，在不降低模型能力前提下，速度首次把推理速度提升至1000 tokens/s，小米型上线新且无需定制芯片、大模只使用通用GPU即可达成。模式这一突破打破了“快、推理突破强、速度通用 GPU无法兼得”的小米型上线新行业不可能三角。
小米MiMo技术团队表示，大模该突破是模式基于Xiaomi MiMo-V2.5 Pro的SWA架构，叠加了FP4 Experts、推理突破DFlash解码以及TileRT团队的速度执行系统Co‑design，从模型到推理引擎再到GPU执行路径进行了全链路优化。
即日起至6月23日，MiMo-V2-Pro-UltraSpeed模式将采取申请制限时开放，通过申请的用户可接入API 进行体验。
自4月底以来，小米AI在模型能力、推理成本和推理效率三个维度接连取得突破：4月23日， MiMo-V2.5-Pro在全球权威大模型测评平台Artificial Analysis上，获得综合智能指数与Agent指数全球开源模型并列第一；5月27日，Xiaomi MiMo-V2.5系列模型API因技术优化宣布最高降价99%，并同步调整Token Plan计费体系。6月8日，MiMo-V2.5-Pro-UltraSpeed以1000 tokens/s创下万亿参数旗舰模型推理速度新纪录。
(责任编辑：娱乐)
2018年8月16日中国玻璃综合指数,行业资讯
普通却自信是什么梗
酥饼怎么做
c罗足球比赛
38岁重疾险还买吗?38岁就不要买重疾险了?推荐文章
-
连日来，滁州国际手球馆内呐喊声此起彼伏，2026年第十九届亚洲U20男子手球锦标赛激战正酣。而在场馆各个重点区域，消防救援指战员严阵以待、全程驻守——这里，亦是他们的&ldqu
...[详细]
-
水性笔是什么笔?水性笔水性笔使用油墨为纯水性,纸对其的吸收性强。水性笔一般使用在吸收面上,即使涂在非吸收面上,也可以擦去,书写在纸上一般没有背痕。优点是书写手感与书。水性笔是中性笔吗?水笔是写小楷用的
...[详细]
-
前言：答：《问情》演唱：蔡幸娟山川载不动太多悲哀岁月禁不起太长的等待春花最爱向风中摇摆黄沙偏要将痴和怨掩埋一世的聪明情愿糊涂一身的遭遇向谁诉爱到不能爱聚到终须散繁华过后成一梦啊海水永不干天也望不穿红尘
...[详细]
-
椒盐龙头鱼做法?材料:新鲜龙头烤、葱姜、生粉或吉士粉、料酒、盐、椒盐粉做法:1龙头烤去头去肠洗净,用葱、姜、盐、料酒腌制15分钟以上2腌制后的龙头烤滤去水,周身拍上生。椒盐龙头鱼的做法窍门-业百科用料
...[详细]
-
导读： 医保卡借给别人刷？会影响买保险吗？附常见问题！医保卡外借过，买的保险还能赔吗？医保卡对买保险有什么影响？如果没有核保情况会有影响吗
...[详细]
-
亲我想问一下，白云t2在机场北吗还是机场南?_问答库问答-...广州白云机场T2航站楼对应的地铁站是机场北,T1对应机场南。到广州白云机场登机到机场南或机场北?广州白云机场T1航站楼是机场南,T2航站
...[详细]
-
水性笔是什么笔?水性笔水性笔使用油墨为纯水性,纸对其的吸收性强。水性笔一般使用在吸收面上,即使涂在非吸收面上,也可以擦去,书写在纸上一般没有背痕。优点是书写手感与书。水性笔是中性笔吗?水笔是写小楷用的
...[详细]
-
中国古代计时工具有哪六种?中国古代的计时工具:1、圭表:圭表中的“表”是一根垂直立在地面的标竿或石柱;“圭”是从表的跟脚上以水平位置伸向北方的一条石板。每当太阳转到正南方向的时。计时工具有哪些?沙漏、
...[详细]
-
召集所有勇敢的冒险者，踏上惊险旅程——《终极幸运之塔》正式结束抢先体验，准备逃离伊维利乌斯之塔!由 Studio Seufz 开发、AMC Games 发行的《终极幸运之塔》(Lucky Tower
...[详细]
-
前言：答：这个不太清楚。你查一下资料看有没有。答：是这样，国外有个叫“H.P.LovecraftHistoricalSociety”的歌手此人最喜欢把各种圣诞颂歌翻唱成克苏鲁颂歌。像那个旧日之歌就是他
...[详细]
热点阅读
