时尚

美团开源万亿参数LongCat-2.0大模型,专为国产算力优化智能体编程

时间:2010-12-5 17:23:32  作者:娱乐   来源:娱乐  查看:  评论:0
内容摘要:2026年7月6日,美团正式开源万亿参数级大模型 LongCat-2.0,并同步发布针对国产算力芯片的深度推理适配代码。该模型总参数量高达 1.6万亿,在训练与推理过程中平均激活参数约为 480亿。L

2026年7月6日,美团模型美团正式开源万亿参数级大模型 LongCat-2.0,开源并同步发布针对国产算力芯片的参数程深度推理适配代码。该模型总参数量高达 1.6万亿,专为智在训练与推理过程中平均激活参数约为 480亿。国产LongCat-2.0 专为真实场景下的算力智能体(Agent)编程任务打造,旨在解决复杂代码逻辑与超长上下文处理难题。优化

架构突破:稀疏注意力与N-gram嵌入的体编双重革新

LongCat-2.0 在底层架构设计上实现了多项关键技术突破,核心创新包括首次引入 LongCat稀疏注意力机制N-gram Embedding结构

  • LongCat稀疏注意力机制:显著提升长上下文处理效率,美团模型增强Token级别的开源语义表征能力,有效应对智能体任务中普遍存在的参数程超长输入场景。
  • N-gram Embedding结构:强化模型对代码逻辑、专为智语法结构及执行语义的国产理解与生成质量。

针对百万级长度上下文带来的算力挑战,模型采用 流感知索引、优化跨层索引与层级化索引三重策略,有效降低内存访问碎片化程度与重复索引计算开销,在保障建模精度的同时,大幅提升训练与推理速度。

在混合专家(MoE)架构方面,尽管稀疏度已达 97%,模型仍将 1350亿参数集中部署于N-gram Embedding模块。该模块占总参数比例严格控制在 10%以内,在提升表达能力的同时,维持了整体结构的鲁棒性与稳定性。

国产算力深度适配:从芯片特性到系统级部署

作为首个在 五万张国产加速卡集群上完成全流程推理验证的万亿参数模型,LongCat-2.0 围绕国产算力平台的显存容量与带宽瓶颈,进行了从模型设计、芯片适配到系统部署的全链路协同优化:

  1. 模型层面优化
  2. 采用 Absorb计算范式Indexer与MLA Prolog并行调度以及 KV-cache分块切分等技术,有效缓解超长序列带来的I/O压力与显存占用。
  3. 芯片适配层面
  4. 依托 Super Kernel整合算子,减少调用频次。
  5. 利用 Weight Prefetch技术,将权重加载延迟隐匿于前置计算周期内,提升硬件利用率。
  6. 部署策略层面
  7. 采用 Prefill与Decode分离架构,兼顾首字响应时间(TTFT)与每秒输出吞吐量(TPS)。
  8. Prefill阶段:通过压缩专家并行域与引入序列并行机制,分散计算负载。
  9. Decode阶段:借助KV-cache细粒度切分与高并行度调度,显著降低单卡显存峰值需求。

后训练与生态愿景:多教师蒸馏与全精度开源

在后训练阶段,LongCat-2.0 采用 多教师在线蒸馏框架,将专家知识划分为三条能力导向路径:
* Agent执行:强化自主任务执行能力。
* 自适应推理:优化动态推理路径选择。
* 人机交互:提升安全对齐与交互体验。

最终依托 MOPD架构,实现模型在国产算力集群上的高效融合与稳定运行。

LongCat-2.0 延续 LongCat-Flash 的技术路线,聚焦 长上下文建模代码生成智能体行为建模三大核心场景。本次开源涵盖 BF16、FP8及INT8等多种精度版本,全面适配从高性能服务器到边缘推理设备的多样化国产硬件平台。此举旨在全面释放模型能力与推理优化成果,推动存量国产算力资源的高效复用,持续激发国产算力生态的长期发展潜力。

copyright © 2026 powered by 优瑞优资讯网   sitemap