云天勵飛自研芯片與高性能算力結合，攜手德元方惠構建AI算力生態(tài)新藍圖

2024/6/7 17:20:49 企業(yè)供稿

6月6日,云天勵飛發(fā)布公告,公司與德元方惠簽署《AI算力運營合作框架協(xié)議》。德元方惠將向云天勵飛購買AI訓練及推理異構算力服務,總算力規(guī)模約4000PFLOPS,該協(xié)議預計在未來三年服務期內為云天勵飛貢獻約16億的營收。

奠定未來的業(yè)績基礎

作為國內領先的人工智能公司,云天勵飛一直積極建設算力基座,并且對外提供算力運營服務。今年3月,云天勵飛在發(fā)布會上公布了“1+3”業(yè)務布局,即基于1個算法芯片化平臺,打造三大方向業(yè)務——AI方案、AI運營、AI產品。本次與德元方惠簽署戰(zhàn)略合作協(xié)議,是公司AI運營業(yè)務的一大突破,并在未來3年為公司帶來16億營收,奠定未來的業(yè)績增長基礎。

將大模型研發(fā)經驗注入算力運營服務

去年,云天勵飛正式推出自研千億級大模型“云天天書”?！霸铺焯鞎毕盗心Ｐ图軜嫲ㄓ么竽Ｐ?、行業(yè)大模型、場景大模型三個層級。云天勵飛基于算法芯片化平臺,并通過海量高質量數(shù)據預訓練生產通用大模型;在通用大模型基礎上,引入高質量行業(yè)數(shù)據,生產行業(yè)大模型;再在行業(yè)大模型基礎上,通過細分場景數(shù)據微調研發(fā)場景大模型?！霸铺焯鞎痹贑-Eval、CMMLU等權威測試中多次獲得第一,并正式通過中央網信辦備案。

在大模型研發(fā)過程中,公司積累了一系列異構算力組合、算力調優(yōu)、提升模型訓練效率的技術平臺和相應工具,包括智能算力集群管理平臺、AI大模型開發(fā)服務平臺等,可提供數(shù)據管理、數(shù)據標注、模型發(fā)布、模型測評等功能模塊。云天勵飛將上述技術沉淀在AI算力服務中,可幫助客戶提升模型訓練及算力利用效率,幫助更多企業(yè)以更低成本訓練大模型。

為自研芯片拓展廣闊新天地

今年以來,大模型全面進入應用落地階段,推理算力需求隨之不斷增長。根據IDC數(shù)據,預計到2026年中國數(shù)據中心用于推理的負載將達到62.2%。

云天勵飛亦持續(xù)看好大模型進入成熟商業(yè)化階段后推理需求,并在推理算力領域進行戰(zhàn)略部署。

去年底,公司自研的神經網絡處理器NNP400T的DeepEdge 10 正式發(fā)布,可廣泛應用于AIoT邊緣視頻、移動機器人等場景,目前已在智慧交通、清潔機器人等領域進行應用。此外,依托創(chuàng)新的D2D chiplet架構打造的推理卡已適配SAM CV大模型、Llama2、通義千問等國內外開源大模型,可承載大模型應用落地的大規(guī)模推理計算。

推理算力需求將隨著大模型使用時間和用戶量的增長而快速增加,因此在大模型進入成熟商業(yè)化階段之后將迎來需求爆發(fā)。公司所搭建超大規(guī)模異構高性能算力集群將其自研推理卡與高性能訓練算力相結合,為客戶提供高效的訓推一體算力服務,同時為自研推理卡落地打開場景觸角,搭建生態(tài),為大模型進入成熟商業(yè)化階段后的推理需求爆發(fā)提前布局。

此外,公司也持續(xù)投入自研大模型研發(fā)及優(yōu)化工作,預計將維持較高對AI訓練及推理異構算力的需求,此次《合作框架協(xié)議》項下涉及對于高性能異構算力的采購,未來亦可視需要作為公司大模型研發(fā)工作所需算力基礎的補充,支撐公司大模型技術的持續(xù)進步。

未來,云天勵飛亦可在超大規(guī)模異構高性能算力集群中,將自研推理卡與高性能訓練算力相結合,為自研推理卡落地打開場景觸角,搭建生態(tài),為行業(yè)帶來更豐富的算力服務。

云天勵飛