余承东说到做到,华为盘古 openPangu-2.0-Pro 模型及技术报告开源上线
发布于 · 7月31·周五 来源 · IT之家

余承东说到做到,华为盘古 openPangu-2.0-Pro 模型及技术报告开源上线

华为正式开源盘古 openPangu-2.0-Pro 模型及技术报告。该模型基于昇腾 NPU 训练,参数规模约 5050 亿,支持 512k 上下文,旨在为昇腾生态提供最佳实践参考。

关键词华为开源openPangu-2.0-ProNPU余承东说到做华为盘古模型及技术报告开源上线

华为正式宣布开源盘古 openPangu-2.0-Pro 模型及其技术报告,标志着其在开源大模型领域的进一步布局。该模型权重与基础推理代码的公开,将允许开发者直接访问和使用这一大规模语言模型。

openPangu-2.0-Pro 是一款基于昇腾 NPU 训练的大规模混合专家(MoE)语言模型,参数规模达到约 5050 亿,每 token 激活参数约 180 亿。模型支持 512k 上下文长度,训练数据总量约为 34T tokens,展现了较强的长文本处理能力。

此次开源的核心目的之一是通过昇腾原生训练与推理技术,为业界提供最佳实践参考。开源盘古品牌致力于帮助开发者更好地利用昇腾算力,解决国产 AI 芯片在模型训练和推理过程中的适配问题。

在国产 AI 算力生态建设中,提供经过验证的开源模型至关重要。华为此举有助于降低开发者使用昇腾算力的门槛,加速 AI 应用在不同场景下的落地,同时也增强了国产大模型在开源社区的影响力。

本站展示内容为基于公开信息的资讯解读与整理,不代表原文转载。如需核实细节或获取完整报道,请通过下方链接访问原始来源。