國產(chǎn)GPU達到國際水準！摩爾線(xiàn)程已媲美RTX 4090、A100

摩爾線(xiàn)程官方宣布，國產(chǎn)2024年5月份與智譜AI開(kāi)展了新一輪GPU大模型適配、達到國性能測試，際水包括大模型推理、準摩基于夸娥（KUAE）千卡智算集群的爾線(xiàn)大模型預訓練。

測試使用的程已相關(guān)大模型，來(lái)自智譜AI基座大模型及其開(kāi)源版本。媲美

測試結果表明，國產(chǎn)在推理方面，達到國摩爾線(xiàn)程自研全功能GPU顯著(zhù)優(yōu)于基準對比產(chǎn)品RTX 3090和RTX 4090，際水其中全部測試用例中優(yōu)于RTX 3090，準摩在多batch下優(yōu)于RTX 4090。爾線(xiàn)

在訓練方面，程已摩爾線(xiàn)程夸娥千卡智算集群的媲美訓練精度與A100集群相比，誤差在1％以?xún)?，國產(chǎn)而集群性能擴展系數超過(guò)90％，模型算力利用率（MFU）與A100集群相當。

這一結果，對于中國大模型產(chǎn)品技術(shù)生態(tài)具有重要的意義：

一是技術(shù)自主新突破。

摩爾線(xiàn)程千卡智算集群成功應用ChatGLM預訓練，標志著(zhù)摩爾線(xiàn)程有能力讓大模型訓練與推理在全國產(chǎn)可控的算力底座上運行，可增強技術(shù)自主性，保障信息安全。

二是助力打破算力瓶頸。

根據Scaling laws（尺度定律），有限的算力供應可能成為制約大模型發(fā)展的關(guān)鍵瓶頸，而摩爾線(xiàn)程全功能GPU可以提高大模型的迭代速度和自研水平，助推中國大模型更好發(fā)展。

三是開(kāi)拓創(chuàng )新空間。

摩爾線(xiàn)程與智譜AI卓有成效的適配與測試合作，有利于推動(dòng)實(shí)現軟硬件的深度融合與協(xié)同創(chuàng )新。

四是降低運營(yíng)成本。

摩爾線(xiàn)程憑進(jìn)的AGI算力底座，不僅可以兼容適配全球主流AI軟件生態(tài)，節約遷移成本，而且在單位算力總體擁有成本上擁有較為明顯優(yōu)勢，能夠有效降低大模型產(chǎn)品研發(fā)成本。

值得一提的是，早在2022年8月，智譜AI就開(kāi)源了GLM-130B模型，2023年又推出了千億基座對話(huà)模型ChatGLM，以及開(kāi)源版本的ChatGLM-6B。

最近，摩爾線(xiàn)程陸續公布了與國產(chǎn)AI企業(yè)在大模型訓練、推理方面的合作，主要包括：

－第一家接入無(wú)問(wèn)芯穹，適配無(wú)穹Infini-AI大模型開(kāi)發(fā)與服務(wù)平臺，完成LLama2 700億參數大模型訓練測試、MT-infini-3B 3B(30億參數)規模大模型實(shí)訓

－完成憨猴集團70億、340億。700億參數量級大模型的分布式訓練

－完成與滴普企業(yè)大模型Deepexi v1.0的訓練、推理適配

－完成羽人科技70億參數大語(yǔ)言模型YuRen-7b的訓練測試

－完成師者AI 70億參數全學(xué)科教育大模型的高強度訓練測試