钱柜娱乐 - 中文官网综合首页 最新动态

Kimi K3.1 Pro 正式开源,本地部署 800 万元起步,阿里云超节点 Day0 适配

省流:本地部署 Kimi K3.1 Pro 最低 800 万元起步,推荐配置 3000 万元,请转给公司领导申请预算 大家好,我是 Ai 学习的老章 前两天我实测了 Kimi K3.1 Pro: 也测了它与 DeepSeek、Opus 5.5 和 GPT-6 的同台表现: 大家有各种看法,但我觉得: 你可以说它慢,说它贵,但是不能说它菜 今天月之暗面如约开源了 K3.1 Pro 的完整权重,阿里云

Kimi K3.1 Pro 正式开源,本地部署 800 万元起步,阿里云超节点 Day0 适配 READ
DEEPER
SHARE
本文预计阅读约 5.5 分钟,建议在稳定网络环境下阅读完整内容。

省流:本地部署 Kimi K3.1 Pro 最低 800 万元起步,推荐配置 3000 万元,请转给公司领导申请预算 大家好,我是 Ai 学习的老章 前两天我实测了 Kimi K3.1 Pro: 也测了它与 DeepSeek、Opus 5.5 和 GPT-6 的同台表现: 大家有各种看法,但我觉得: 你可以说它慢,说它贵,但是不能说它菜 今天月之暗面如约开源了 K3.1 Pro 的完整权重,阿里云也宣布灵骏真武 M890 超节点完成 Day0 适配 今年 7 月 K3 开源时我算过一笔账 当时结论是按照英伟达 H200 来测算的,跑满得 8 台超节点,预算直奔 3000 万(现在H200可不是这个价了) 如今 K3.1 Pro 权重发布,本地部署到底要几台机器、多少预算?老章再来算一下 K3.1 Pro 与 K3 架构区别 K3.1 Pro 底层骨架基本继承 K3,提升全在后训练与跨领域强化学习 架构是 2.8T 总参数的稀疏 MoE,支持 100 万 Token 上下文窗口 权重原生 MXFP4,实测大小 1.56TB(96 个分片): 注意力延续 KDA 线性注意力与 DSA 稀疏注意力结合的混合架构,支持多 Token 预测(MTP),兼顾长上下文显存与吞吐 月之暗面把算力砸在大规模后训练(Post-training)与跨领域联合 RL 上,重构了从训练、推理到沙箱评测的全栈工程,效果很显著: Terminal-Bench 4.0 上,K3.1 Pro 拿下 65.7%,超越 GPT-6 Astra 的 58.2%,紧咬 Claude Opus 5.5(66.4%) Kimi Code Bench 3.0 从 55.95% 升至 61.2%,还同步推出提速 2 到 3 倍的 Highspeed 版本 Kimi K3.1 Pro 评测榜单表现 阿里云超节点 Day0 适配 今天阿里云灵骏真武 M890 超节点宣布 Day0 适配 K3.1 Pro,并在 vLLM 与 SGLang 两个框架上跑通了全链路验证 软硬件协同全链路优化架构 跑万亿 MoE,瓶颈在跨卡与跨机通信,阿里云、平头哥与月之暗面联合做了深度调优: FlashMLA 算子调优,降低高并发访存开销 DeepGEMM 算子优化,加速 MoE 低精度矩阵计算 MegaMoE 与 MoonEP 优化拓扑,压低 All-to-All 延迟抖动 大家最关心的问题:本地私有化部署,到底买几台 M890?花多少钱? 我搜了一下近期的招投标信息,发现了这一条: 电信陕西分公司寻源公告显示,32 台真武 M890 含税预算 11942.76 万元,扣除管理机后单台均价约 373 万元 (实际成本不得而知,这个数字虚高了,里面应该还有 4 台通算服务器部分): 单台搭载 8 张 OAM 加速卡,单卡 144GB HBM 显存,整机显存合计 1152GB(约 1.15TB) 片间互联带宽 800GB/s,配合自研 ICN Switch 1.0 支持 64 卡全带宽互联 K3.1 Pro 权重是 1.56TB,单台 M890 显存只有 1.15TB,单台连权重都装不下 多机部署需要加上 400GE RDMA 交换机(单台约 70 万元,我随便问的集成商,应该也虚高),老章整理出三档账单: Kimi K3.1 Pro 本地部署成本台账 方案一:两台 16 卡配置,约 820 万 — 850 万元(入场券) 两台 M890 共 16 张卡,总显存 2304GB(约 2.25TB) 装下 1.56TB 权重后剩余约 744GB 显存供 KV Cache 与运行时周转,长上下文和并发量需要精打细算 2 台真武 M890 服务器:约 746 万元 1 台 400GE 交换机及配件:约 70 万 — 100 万元 最低门槛合计:约 820 万 — 850 万元 方案二:四台 32 卡配置,约 1600 万元(舒适档) 四台 M890 共 32 张卡,总显存 4608GB(约 4.5TB) 权重外结余近 3TB 显存,可支撑 100 万 Token 长上下文与企业级稳定并发 4 台真武 M890 服务器:约 1492 万元 400GE 交换机与网络:约 100 万 — 150 万元 企业生产推荐合计:约 1600 万元 方案三:八台 64 卡超节点,约 3100 万 — 3200 万元(官方推荐姿势) 月之暗面技术博客明确说了:建议在 64 卡以上超节点配置上部署,正好对应平头哥 ICN Switch 1.0 的 64 卡全带宽互联域 8 台 M890 聚合 64 张卡,总显存来到 9216GB(约 9.2TB),跨节点算力完全释放 8 台真武 M890 服务器:约 2984 万元 400GE 集

about image
上一篇 女篮上空篮频频打铁,坎宁安当面追问名帅:这到底怎么回事... 下一篇 霍安-加西亚:习惯通过脚下技术帮球队,在巴萨这方面更重要...
返回资讯列表

热点新闻

乌克兰传来消息,日本反无人机表现出色,高市政府又迈出危险一步

乌克兰传来消息,日本反无人机表现出色,高市政府又迈出危险一步

最近刷俄乌战场相关资讯的网友,多半都刷到过乌军晒新援助装备的内容。这次晒出来的不是什么欧美援的重型装甲车辆,居然是之前没多少人留意的日本产军备。不少人刚看到消息的时候都懵了,日本守了几十年的战后相关限制,居然真的把自研装备直接送到战场实测了。 乌克兰媒体之前高调官宣,日本造的泰拉反无人机在战场上的表现相当出彩。这款是东京泰拉株式会社研发的小型反无人机,日本直接突破战后相关限制把它送上俄乌前线,消息

中国男篮大名单正式公布,混子球员入选惹争议,王哲林回归太惊喜

中国男篮大名单正式公布,混子球员入选惹争议,王哲林回归太惊喜

中国男篮大名单正式公布,混子球员入选惹争议,王哲林回归太惊喜 就在昨天晚上,中国男篮正式公布了征战世预赛的大名单,这次和之前相比调整幅度非常大,尤其是有很多主力球员回归,包括张镇麟,周琦,赵睿等人,他们也是目前中国男篮的核心球员,之前在亚运会得到如此糟糕的成绩,就是因为缺少他们,如今几大主力重磅回归,中国男篮肯定能够两战全胜, 但此时有一位混子球员入选,却引发了争议,他就是崔永熙,在CBA第一阶段

西藏巴青地震灾区学生异地复学

西藏巴青地震灾区学生异地复学

11月4日,受巴青地震影响的西藏那曲市巴青县玛如乡小学、岗切乡小学千余名学生,在拉萨那曲完全中学开启异地复学。 10月22日,西藏那曲市巴青县发生7.0级地震,玛如乡小学、岗切乡小学校舍受损严重。为统筹做好异地复学,自11月1日起,两所小学师生分三批被转运至拉萨那曲完全中学,最大限度减少地震对教学秩序的干扰。 新华社记者 晋美多吉 摄影报道 11月4日,在拉萨那曲完全中学,洛桑次成(左)老师在给西

赢下参议院席位后,他隔空喊话特朗普:叫我参议员

赢下参议院席位后,他隔空喊话特朗普:叫我参议员

赢下密歇根州参议院席位后,阿卜杜勒·埃尔-赛义德(Abdul El-Sayed)几乎没有停顿,直接把矛头对准了唐纳德·特朗普和J.D.万斯。 在 11月3日 的胜选演讲中,这位新科参议员回击了竞选期间反复针对他姓名、穆斯林信仰和政治立场的共和党人。他在底特律对支持者说:“唐纳德,我知道你念不顺我的名字,所以等J.D.在一月为我宣誓就职后,你可以继续,叫我参议员。” 埃尔-赛义德同时批评了这场竞选的

Kimi K3.1 Pro 正式开源,本地部署 800 万元起步,阿里云超节点 Day0 适配

Kimi K3.1 Pro 正式开源,本地部署 800 万元起步,阿里云超节点 Day0 适配

省流:本地部署 Kimi K3.1 Pro 最低 800 万元起步,推荐配置 3000 万元,请转给公司领导申请预算 大家好,我是 Ai 学习的老章 前两天我实测了 Kimi K3.1 Pro: 也测了它与 DeepSeek、Opus 5.5 和 GPT-6 的同台表现: 大家有各种看法,但我觉得: 你可以说它慢,说它贵,但是不能说它菜 今天月之暗面如约开源了 K3.1 Pro 的完整权重,阿里云