蘭州市城管委制定印發(fā)《蘭州市推水清淤作業(yè)應(yīng)急預(yù)案》
2023-08-18 17:18:32
浪潮網(wǎng)絡(luò)助力打造 面向AIGC的"三超"網(wǎng)絡(luò)
2023-08-18 17:18:32 來源: 電子創(chuàng)新網(wǎng)
從內(nèi)容生成、游戲開發(fā)、到自動化助手、機(jī)器人控制……AIGC這項(xiàng)"黑科技"，正在更多領(lǐng)域發(fā)揮著作用，并逐漸向行業(yè)滲透。例如，在數(shù)字政府場景，通過融合AIGC和數(shù)字人技術(shù)，可以提供個性化的政務(wù)服務(wù)和咨詢，優(yōu)化政府與公民的互動方式，提升政務(wù)服務(wù)的質(zhì)量和效率。目前，AIGC主要聚焦在大模型訓(xùn)練、MaaS模型服務(wù)、AIGC推理三大應(yīng)用場景，其中大模型訓(xùn)練是各新興企業(yè)競相爭逐的主要場景。
"沒有好網(wǎng)絡(luò)，別玩大模型。" 要建設(shè)大規(guī)模訓(xùn)練模型集群，除了需要GPU服務(wù)器、網(wǎng)卡等基礎(chǔ)組件，也需要解決網(wǎng)絡(luò)搭建的問題。網(wǎng)絡(luò)對于大模型集群的算力釋放和可靠運(yùn)行至關(guān)重要，如何構(gòu)建符合大模型集群計(jì)算要求的網(wǎng)絡(luò)系統(tǒng)，是推進(jìn)AIGC發(fā)展的關(guān)鍵之一。
【資料圖】
AIGC大模型訓(xùn)練 對網(wǎng)絡(luò)系統(tǒng)的"三超"要求
在大模型訓(xùn)練過程中，有三種流量模型，分別是張量并行、流水線并行、數(shù)據(jù)并行。人們熟知的ChatGPT3，采用128臺A100服務(wù)器，共計(jì)1024個A100卡訓(xùn)練，這樣單服務(wù)器節(jié)點(diǎn)需要4個100G網(wǎng)絡(luò)通道；而ChatGPT4、ChatGPT5等其它大模型，對于網(wǎng)絡(luò)的需求會更高。浪潮網(wǎng)絡(luò)認(rèn)為大模型訓(xùn)練對于網(wǎng)絡(luò)的要求可用"三超"網(wǎng)絡(luò)來概括，即：超大規(guī)模、超高帶寬、超強(qiáng)可靠，以保障網(wǎng)絡(luò)穩(wěn)定、可靠運(yùn)行，為大模型訓(xùn)練提供強(qiáng)有力的支持。
而要解決"三超"網(wǎng)絡(luò)的挑戰(zhàn)，就需要著重思考如何建設(shè)符合大規(guī)模訓(xùn)練的組網(wǎng)方案。從組網(wǎng)架構(gòu)上看，當(dāng)前AIGC組網(wǎng)一般多采用胖樹架構(gòu)，具有高帶寬、低延遲的特性，以及較好的可拓展性。而在組網(wǎng)協(xié)議上，當(dāng)前業(yè)界主流的是基于IB、及RoCE兩種無損網(wǎng)絡(luò)技術(shù)，兩種技術(shù)都可以很好的滿足大規(guī)模訓(xùn)練高帶寬、低延遲的要求。IB的延遲足夠低，而RoCE在開放性、性價比、及易維護(hù)性幾方面更勝一籌。
浪潮網(wǎng)絡(luò)融合趨勢與驅(qū)動 打造基于RoCE的智能無損網(wǎng)絡(luò)解決方案
浪潮網(wǎng)絡(luò)作為云邊協(xié)同智慧網(wǎng)絡(luò)引領(lǐng)者，密切關(guān)注市場發(fā)展及變化，推出了基于RoCE的智能無損網(wǎng)絡(luò)解決方案，助力AIGC"三超"網(wǎng)絡(luò)的打造，其具備如下優(yōu)勢：
一是多協(xié)議、多場景的融合。在大規(guī)模集群中，往往存在通用計(jì)算集群、AI/HPC集群、存儲等多種場景，傳統(tǒng)方案是部署以太網(wǎng)、IB、FC等多套網(wǎng)絡(luò)及多種協(xié)議，各協(xié)議之間互不兼容，大大增加了管理和維護(hù)的難度。而浪潮網(wǎng)絡(luò)基于RoCE的智能無損網(wǎng)絡(luò)解決方案，可以適配通用計(jì)算、AI/HPC、存儲等多種場景，并實(shí)現(xiàn)以太/IB/FC三網(wǎng)融合。這樣從維護(hù)多張網(wǎng)絡(luò)到維護(hù)一張網(wǎng)絡(luò)，大大降低了整體建設(shè)和維護(hù)成本。
二是智能彈性、動態(tài)調(diào)整。在大規(guī)模集群訓(xùn)練中，要求整個集群可以快速部署與交付，在節(jié)約訓(xùn)練時間的同時，盡可能減少宕機(jī)等故障的發(fā)生。在浪潮網(wǎng)絡(luò)基于RoCE的智能無損網(wǎng)絡(luò)解決方案中，通過數(shù)字化網(wǎng)絡(luò)引擎IDE可以實(shí)現(xiàn)集群網(wǎng)絡(luò)的自動化部署，加速業(yè)務(wù)上線。并實(shí)時監(jiān)控設(shè)備與鏈路的負(fù)載和健康狀態(tài)，如CRC錯包，端口帶寬百分比、隊(duì)列緩存，CNP及Pause反壓幀等，完成故障的快速定位及智能分析，實(shí)現(xiàn)基于業(yè)務(wù)的網(wǎng)絡(luò)跟蹤。此外，還可以提供北向標(biāo)準(zhǔn)API接口，能夠與上層計(jì)算平臺進(jìn)行對接，實(shí)現(xiàn)算網(wǎng)聯(lián)動，更好的釋放集群算力。
此前，浪潮網(wǎng)絡(luò)基于RoCE的智能無損網(wǎng)絡(luò)解決方案，已在教科研客戶項(xiàng)目中得以應(yīng)用，方案可充分滿足通用計(jì)算集群、GPU加速集群、異構(gòu)計(jì)算集群、分布式存儲集群、全閃存存儲集群等多場景，對于網(wǎng)絡(luò)的高帶寬、低延遲連接需求，幫助客戶構(gòu)建滿足AIGC發(fā)展的整體網(wǎng)絡(luò)架構(gòu)。
未來，浪潮網(wǎng)絡(luò)將持續(xù)優(yōu)化基于RoCE的智能無損網(wǎng)絡(luò)產(chǎn)品方案能力，同時深入研究基于UEC的網(wǎng)絡(luò)并創(chuàng)新引領(lǐng)支持UEC的產(chǎn)品，幫助客戶成功。
稿源：美通社
關(guān)鍵詞：
您可能也感興趣:
今日熱點(diǎn)
為您推薦
東方破獲一起非法販賣含“依托咪酯”電子煙案件
2023-08-18 17:18:32
三盤大戰(zhàn)過關(guān)！茲維列夫兩年后再勝梅總，艱難晉級辛辛那提八強(qiáng)
2023-08-18 17:18:32
長沙十條措施為中小學(xué)教師“減負(fù)” 探索試行教師錯峰休假彈性上班制度
2023-08-18 17:18:32
更多
- 【三面財(cái)經(jīng)】歐盟委員會《數(shù)字服務(wù)法案》將于8月25日生效
- 愛立信攜手聯(lián)發(fā)科技展示適用于5G獨(dú)立組網(wǎng)的RedCap互操作性
- 浪潮網(wǎng)絡(luò)助力打造 面向AIGC的"三超"網(wǎng)絡(luò)
- 連云港一工廠氫氣泄露引發(fā)火情
- 中國黃金國際(02099)發(fā)布中期業(yè)績，凈利潤2532.1萬美元，同比降84%
- 宜鼎國際 高彈性的嵌入式視覺AI解決方案
- 易飛揚(yáng)推出800G QSFP-DD DR8/DR8+/DR8++硅光模塊，硅光利好AI算力
- 圣邦微電子推出支持超低輸入電壓 1.65V 的同步降壓轉(zhuǎn)換器 SGM61006
排行
最近更新
- 浪潮網(wǎng)絡(luò)助力打造 面向AIGC的"三超"網(wǎng)絡(luò)
- 愛立信攜手聯(lián)發(fā)科技展示適用于5G獨(dú)立組網(wǎng)的RedCap互操作性
- 比亞迪方程豹發(fā)布會舉辦，王傳福開啟新能源汽車“更大的變革”
- 海盜船K70 MAX RGB機(jī)械鍵盤上市 1899元
- 室溫常壓超導(dǎo)體被破 科學(xué)發(fā)現(xiàn)是雜質(zhì)
- 微信廣告推出小程序支付訂單詳情頁廣告
- 社區(qū)牽線、企業(yè)搭臺、醫(yī)師坐診……健康義診“大篷車”開進(jìn)武...
- 為什么王熙鳳那么精明能干 賈府卻依然走向窮途末路？
- 亞馬遜將向自營產(chǎn)品的賣家收取額外運(yùn)費(fèi)
- 社保卡便民，服務(wù)更多樣
- 北京現(xiàn)代MUFASA沐颯配置分析，推薦購買豪華版DLX！
- 沙特不死心，要談租借梅西？外媒放風(fēng)：交易可能在未來幾天發(fā)生
- 集中回收+政府補(bǔ)貼 北京加速違規(guī)電動三四輪車退市
- 暑期下半場文旅產(chǎn)業(yè)鏈持續(xù)火熱 上市公司花樣助消費(fèi)
- 首創(chuàng)機(jī)非前置信號控制模式 南寧這個路口平均車速提升八成
- 燃?xì)獗ǎ￠y門竟然3天不關(guān)……
- 男子頭纏白布直播稱被人打傷 宿松警方:不實(shí),行拘
- 蔚藍(lán)鋰芯上半年凈利潤同比下滑超88% 鋰電池業(yè)務(wù)需求疲軟營收...
- 消息指阿里巴巴擬將釘釘獨(dú)立上市
- 華金證券：給予安恒信息買入評級
- 微元合成獲數(shù)千萬元股權(quán)投資融資
- 橫店在哪個城市地圖（橫店在哪個城市）
- 涿州書商自救群像：直播賣書、清理“泡水書”！組團(tuán)考察，要...
- 學(xué)校中層管理方略(關(guān)于學(xué)校中層管理方略簡述)
- Microsoft（Office Word 2003）
- 協(xié)昌科技：公司股票將于8月21日在創(chuàng)業(yè)板上市
- 加密貨幣凌晨暴跌又和馬斯克有關(guān)？
- 信達(dá)證券給予科達(dá)利買入評級，產(chǎn)能持續(xù)擴(kuò)張，盈利能力有望持...
- 衡水中學(xué)校長稱已注意到網(wǎng)紅要“打衡中”，該校去年已開啟系...
- 杭州亞運(yùn)會15個體育比賽項(xiàng)目門票8月18日、21日啟動實(shí)時銷售
今日要聞
- 男子頭纏白布直播稱被人打傷 宿松警方:不實(shí),行拘
- 【三面財(cái)經(jīng)】歐盟委員會《數(shù)字服務(wù)法案》將于8月25日生效
- 李嘉誠家族減配房地產(chǎn)是正常現(xiàn)象
- 愛立信攜手聯(lián)發(fā)科技展示適用于5G獨(dú)立組網(wǎng)的RedCap互操作性
- 比亞迪方程豹發(fā)布會舉辦，王傳福開啟新能源汽車“更大的變革”
- 浪潮網(wǎng)絡(luò)助力打造 面向AIGC的"三超"網(wǎng)絡(luò)
- 首架國產(chǎn)載人電動垂直起降飛行器即將首飛
- 消息指阿里巴巴擬將釘釘獨(dú)立上市
- 游客下海疑被不明魚類咬傷，廣西北海一浴場暫停涉水活動
- 大宗交易：紫金礦業(yè)成交3.04億元，折價0.98%（08-17）