美团LongCat-2.0开源推理代码 大模型总参数达1.6万亿
[热点] 时间:2026-07-17 14:41:04 来源:广知资讯网 作者:娱乐 点击:100次
来源:环球网
【环球网科技报道 记者 李文瑶】7月6日,美团码大模型美团宣布其万亿参数大模型 LongCat-2.0正式开源,源推并同步发布针对国产算力芯片深度优化的理代推理代码。该模型总参数量高达 1.6万亿,总参平均激活参数约 48B,数达专为复杂的美团码大模型 Agentic Coding(智能体编程)任务量身打造,标志着国产算力在超大模型推理领域取得重大突破。源推

架构创新:LSA与N-gram Embedding双轮驱动
LongCat-2.0在底层架构上进行了深度革新,理代核心引入了 LongCat稀疏注意力机制(LSA)与 N-gram Embedding两大关键技术:
- LongCat稀疏注意力机制(LSA):通过流感知索引、总参跨层索引等先进策略,数达显著提升了百万级长上下文场景下的美团码大模型训练与推理效率,解决了超长文本处理中的源推性能瓶颈。
- N-gram Embedding:该模块投入 135B参数,理代在MoE(混合专家)稀疏度接近 97%的总参高压缩背景下,进一步强化了模型对代码语义的数达理解与生成能力。
在后训练阶段,模型采用 多教师在线蒸馏技术,将专家网络细分为 Agent(智能体执行)、推理(逻辑推导)和 交互(人机协同)三类,实现了自主执行能力、自适应推理效率与安全对齐机制的完美平衡。
算力突破:业界首个五万卡国产集群推理实践
值得关注的是,LongCat-2.0是 业界首个在五万卡国产算力集群上完成推理的万亿参数模型。
美团团队从模型架构、芯片适配到部署策略进行了全链路深度协同优化,通过以下技术手段有效缓解了显存与带宽瓶颈:
1. Super Kernel:大幅减少算子启动开销,提升计算密度。
2. Weight Prefetch:通过预取权重隐藏I/O延迟,优化数据吞吐。
3. PD分离部署与KV-cache切分:优化内存管理,实现百万上下文在国产芯片上的稳定、高效推理。
开源生态:多精度版本助力国产算力盘活
此次开源,美团同步提供了 BF16、FP8及INT8等多精度版本,全面覆盖不同算力平台的部署需求。
官方表示,此举旨在以开源为纽带,盘活存量国产算力资源。通过降低部署门槛,让更多国产显卡(包括老旧型号)能够流畅运行万亿级大模型推理服务,从而释放国产算力生态的长期价值,推动AI基础设施的自主可控与普惠化发展。
(责任编辑:焦点)
相关内容
- 若西班牙夺冠,罗德里将是包揽世界杯、欧冠和金球奖第11人
- 潜射导弹上天,3国反应最凶,俄说了公道话:这发导弹打的没毛病
- FF:公司在中东EAI机器人商业化战略上持续取得进展
- 吃相难看?论植入,谁有《灿如繁星》这么肆无忌惮?五步一个广告
- 为了冲刺百亿IPO,阶跃星辰讲了个“中国版苹果+OpenAI”的硬件童话?
- 店铺人去楼空,法定代表人失联!昆明市民花2万元买猫投资未获分文收益,小猫也不知所终;多方回应:属民事合同纠纷,建议司法诉讼解决
- 又一日军“慰安妇”制度受害者去世
- 从深山土坯房到戈壁新家园:一本脸谱画册见证移民幸福变迁
- 国产AI软硬件协同破局 “自主可控”打造硬核底色
- 新房新车除甲醛去苯净TVOC,CMA实测去除率99%,家用安全呼吸放心
- 马斯克:SpaceXAI将于明日向公众开放Grok 4.5
- 豆包输入法iOS版大升级:语音、手写输入更好用了
- 燃动次元热爱|傲风电竞椅BW2026圆满收官
- 华为车BU总裁李文广谈“智驾泡沫”:宣传过热 真实能力差距悬殊
精彩推荐
- 图解中国经济半年报,GDP同比增长4.7%
- 安吉尔受邀参加2026高端家电价值增长峰会,揭秘全屋净水高增长发展逻辑
- 2026款机械革命蛟龙16 Pro笔记本新增“R9-8945HX +5070”版本
- 刚刚确认:10级!这波太猛,湖北人提前准备
- 苹果市值站上4.8万亿美元 年内涨幅超20%
- 东风风神2026推4款新车,L系列扩容+E80入局出行市场
热门点击
- 女演员千万别乱动脸!《百花杀》65岁女配一出场,曾黎都要往后退 views+
- 论文作者署名为AI,知网:已做下架处理 views+
- 当AI助手回答问题时,它是怎么知道答案来自哪里的? views+
- 曼联官宣乌加特手术赛季报销!曝下笔引援人选,不会8000万买铁腰 views+
- 又不收霍尔木兹海峡“过路费”了!特朗普宣布用新协议取代收费 views+
- 不到24小时,特朗普态度大转弯了 views+
- 三星990 PCIe 4.0 NVMe SSD上架:速度达7250MB/s,1/2TB售价1499/2399元 views+
- ASML:中国大陆市场的增量需求主要来自逻辑芯片领域 views+
- 多重利好,1800亿券商龙头大涨 views+
- 豪门梦碎?出事的中超球队竟是辽宁铁人,徐正源的“韩国行”成压垮骆驼的稻草? views+
