平湖

平湖

全功能 GPU 架构

专为 AI 和高性能计算设计

"平湖"架构是摩尔线程专为人工智能与高性能计算开发的第四代 MUSA 架构。该架构以"计算-访存-通信"深度协同为核心设计理念,针对大模型和 Transformer 架构进行了深度优化,并通过 TCE、TME、ACE 三大自主研发引擎实现端到端性能优化,突破传统架构瓶颈。依托第二代 MTLink 互联技术和 MUSA 软件栈,"平湖"架构可实现从单卡到万卡集群的线性扩展,为千亿至万亿参数大模型训练、推理提供高效强大的算力支撑。

基于"平湖"架构的全新一代 PH100 芯片已首批通过中国信息安全测评中心的安全可靠测评(2026年第2号)。这不仅标志着国产 GPU 在高性能 AI 训推领域的重大技术突破,更以国家级安全可靠认证为背书,为构建自主可控、高性能的算力基础设施提供了坚实支撑。PH100 作为旗舰智算卡 MTT S5000 的核心,助力 MTT S5000 实现卓越性能表现。

MUSA 统一架构

MUSA 架构,是摩尔线程推出的包含计算、图形、多媒体、通信等多种处理引擎的统一架构。其主要特点是在统一的编程模型下支持架构的可伸缩性,可快速针对不同的目标场景市场裁剪出不同资源配比的芯片产品。其次,高速跨引擎同步机制有效支持了多引擎的异步并发执行,有效提升了处理速度。

GEMM 效率

FP8 GEMM 算力利用率高达 90% 以上,比国际旗舰产品高出 15 个百分点。

Flash Attention 效率

Flash Attention 的效率高达 95% 以上,比国际旗舰产品高出 15-20 百分点。这得益于 muDNN 算子库,和 MUSA 软件的充分优化。

Scale Up 互联通信性能

核心技术创新

平湖架构集成六大核心技术创新,从原生 FP8 计算到异步通信引擎 ACE,每一项创新都针对真实 AI 工作负载进行深度优化,极大加速 AI 训练、推理的性能。

张量计算引擎 (TCE)

智能张量计算引擎,原生 FP8 定义 AI 计算效率。

TCE 技术创新

TCE 技术创新

平湖的张量计算引擎(Tensor Compute Engine, 简称 TCE),支持通用矩阵乘法 (GEMM) 和卷积 (CONV) 操作,最多支持五维张量计算。相比上一代架构,平湖在矩阵乘累加 (MMA) 方面实现了 5 倍性能提升,并首次引入了原生 FP8 精度支持。
FP8 精度创新

FP8 精度创新

更高计算累加精度: FP8 计算中间累加精度尾数 24bit,远高于国际旗舰产品的尾数 14bit。高精度累加,有效地的避免了精度损失,或者避免二次累加带来的性能下降。

FP8 格式支持: 支持 E4M3/E5M2 两种 FP8 格式,并支持各种缩放模式。

平湖原生的 FP8 技术具备多项优势,在确保性能提升的同时,保持了训练、推理的精度。
权重反量化

权重反量化

硬件级 W4A16/W8A16 的权重反量化,硬件加速有效提升效率。
FP8 带来性能提升

FP8 带来性能提升

主流大语言模型训练中,FP8 引擎可显著提升性能。数据显示,在不同规模模型上,开启 FP8 引擎计算均可稳定带来约 30% 的性能提升,大幅削减训练时间、降低成本。
SQMMA

SQMMA

平湖引入 SQMMA (SQuard Matrix Multiply-Accumulate) 技术,支持多 MMA 计算单元协同运算,提升矩阵计算效率。
Transformer Engine

Transformer Engine

基于 Transformer Engine,平湖架构实现了低精度的缩放计算,以及混合精度计算的端到端加速。

张量访存引擎 (TME)

智能张量访存,消除数据搬移瓶颈。

平湖的张量访存引擎(Tensor Memory Engine,简称 TME)针对训练推理过程中因地址计算、数据搬移等因素导致的计算资源消耗与额外耗时问题,通过硬件加速实现全局内存与本地内存间的大块张量数据高效传输,并原生支持多种数据布局转换。其核心功能包括地址计算与越界处理、数据布局转换、多精度转换加速,以及与TCE 硬件的协同优化。

该技术可显著提升数据搬移效率,进而提升 GEMM、Attention、Conv 等关键计算场景的性能表现,为 AI 训练与推理工作负载加速。

异步事务屏障 (ATB)

引擎异步流水,计算-访存-通信深度并行。

传统架构中计算、访存和通信操作因存在严格依赖关系而导致硬件资源利用率低的问题,平湖架构针对性的引入了异步事务屏障(Asynchronous Transaction Barrier,简称 ATB)机制,通过硬件加速解决数据依赖与资源依赖,实现访存、张量处理和矢量处理引擎的流水化并行执行,并配合TME进行数据搬移和同步,从而有效容忍数据加载延迟,使各引擎在等待数据时可执行无依赖任务,最大化硬件利用率。
在 Flash Attention 等复杂算子的实际应用中,该架构凭借 ATB 优势,实现了约 95% 的极致算力利用率,在无因果掩码、序列长度16384 的测试场景下,大幅领先国际旗舰产品约 20 个百分点,将每一份算力高效转化为有效价值,而不是浪费在等待和同步上。

独创的异步通信引擎 (ACE)

ACE 助力消除数据搬运瓶颈,释放全部算力。

传统 GPU 架构中通信过程会占用约 15% 到 20% 的流式多处理器资源,会造成计算能力损失并影响万卡规模训练与集群推理的计算效率。

针对此问题,平湖架构提出了以异步通信引擎(ACE)为核心的解决方案:通过独立的 ACE 单元执行数据搬移,不占用计算核心资源;ACE 支持多种访存地址计算模式,可优化点对点、All-Reduce 等通信场景的搬移效率;同时支持多种路径的高性能异步内存拷贝,如 PCIe 设备与主机间、MTLink 跨 GPU 直接内存访问等。

该方案实现了通信任务从计算核心的完全卸载,在 DeepSeek 等MoE 模型训练中带来超过 5% 的训练 MFU 提升,并在分布式推理的 Prefill 过程有效缓解通信瓶颈,显著提升整体算力利用率。

第二代 MTLink 互联技术

革命性 MTLink 互联,实现有效扩展。

平湖搭载的第二代 MTLink 采用专有 Scale up 协议,实现了相比上一代的 7 倍带宽提升,在技术演进上凭借高通量、超低延时的通信能力有效支撑大规模集群的线性扩展;其核心特性包括支持节点内 8 卡全连接的灵活拓扑支持、领先的通信带宽和效率以及可配置(重量级、轻量级)以降低延迟的前向纠错算法;在第三方实测单机 8 卡 All Reduce 测试中,MTT S5000 通信带宽达到国内产品平均水平的 1.62 倍,Scale up 带宽效率相比行业其他类以太方案提升多达 30%。

增强的内存子系统

大容量高带宽,支撑 AI 工作负载。

针对 AI 场景,平湖架构对内存子系统进行了全面升级。实现了多个特性的技术演进,包括拥有 60MB 高容量的 Last Level Cache(LLC) ,支持全局内存高吞吐原子操作的能力,具备可编程的数据持久性控制,以及覆盖线程块、线程簇到整个 GPU 的细粒度一致性控制。这些特性带来了显著价值,多级缓存和大容量 LLC 提供了高效的缓存层次,降低了访存延迟;可编程的数据持久性控制则让高级用户能在不同作用域更好地操作数据重用,进而优化性能。

软硬件协同深度优化

MUSA 平台通过软硬件协同深度优化,全面应对大模型训练和推理的挑战。平台采用分层架构设计,从底层硬件到上层应用,提供全栈式解决方案。

① 参考基准1:稠密 FP16 算力 989 TFLOPS,显存带宽 3.35TB/s。

phone phone
人工
客服
400-667-5666

周一至周日,9:00-21:00