并行科技董事長陳?。捍蛟炜捎?、好用、降本的大模型超算算力
來源:
環(huán)球網(wǎng)
日期:2023-09-04
責(zé)編:
殷緒江
算力作為數(shù)字經(jīng)濟時代新的生產(chǎn)力,已經(jīng)成為經(jīng)濟社會高質(zhì)量發(fā)展的重要支撐。目前,我國算力總規(guī)模位居全球第二,并且保持著30%左右的年增長率。預(yù)計在2023年,AI算力將首次超過通用算力。AI已成為算力增長的新引擎。如何跟上算力發(fā)展的步伐,凸顯算力優(yōu)勢,實現(xiàn)算力資本、算力服務(wù)的協(xié)同互補,從而更好地賦能產(chǎn)業(yè)數(shù)字化和數(shù)字產(chǎn)業(yè)化成為亟需破解的問題。
近日,在第十九屆CCF全國高性能計算學(xué)術(shù)年會上,業(yè)界專家認為,近幾年,我國算力綜合供給水平快速提升,算力產(chǎn)業(yè)創(chuàng)新能力持續(xù)增強,算力賦能千行百業(yè)成效顯著。從超算行業(yè)來看,超算已為汽車制造、氣象海洋、基因測序、新藥研發(fā)、芯片制造、石油勘探等眾多行業(yè)提供了靈活彈性、快捷高效、安全可靠的算力支持。在AI的驅(qū)動下,超算行業(yè)未來仍有巨大潛力可挖,新的技術(shù)和應(yīng)用亮點會層出不窮。
北京并行科技股份有限公司董事長陳健表示,“算力網(wǎng)絡(luò)是解決當(dāng)前算力問題的最優(yōu)模式。只要還有可用的超算算力,算力網(wǎng)絡(luò)就能支撐用戶完成計算任務(wù)。”

據(jù)了解,并行科技在過去十年基于算力網(wǎng)絡(luò)服務(wù)模式,匯聚國內(nèi)外超算和智算算力資源,實現(xiàn)了算力資源、應(yīng)用資源、數(shù)據(jù)資源的共享與交易,并面向終端用戶提供多樣化的算力服務(wù)。其中,在算力網(wǎng)絡(luò)模式方面,并行科技為行業(yè)發(fā)展提供了一套行之有效的破題方法。
“我們主要通過技術(shù)服務(wù)、應(yīng)用服務(wù)以及性能優(yōu)化,幫助客戶提升訓(xùn)練效率。”陳健告訴記者,并行科技主要的優(yōu)勢體現(xiàn)在:確保用戶有GPU卡可以用;通過技術(shù)服務(wù)讓客戶感到好用;通過算例性能優(yōu)化,降低用戶使用GPU卡的成本,并提升效率。“其中,好用分成兩個維度,一是穩(wěn)定易用,二是性能好,這也是超算一直努力的目標(biāo)。為了實現(xiàn)智算中心的好用,并行科技從運營和優(yōu)化兩方面入手,為用戶提供最優(yōu)性價比的算力。”
在算力服務(wù)方面,基于運行特征的調(diào)度,主要有兩個目的:第一,根據(jù)運營的需求,全網(wǎng)找到性能最好的算力,或性價比最好的算力,讓用戶能最快、最低成本地完成任務(wù),這是系統(tǒng)選型。第二,是優(yōu)化。
陳健進一步舉例解釋道,“我們用戶的真實案例:優(yōu)化前,用戶的應(yīng)用GPU 利用率只有 75%,顯存利用率接近 100%,應(yīng)用每次迭代需要13.97s,我們的技術(shù)優(yōu)化團隊幫客戶定位到應(yīng)用的瓶頸在計算負載的分配上。我們通過修改算法和配置參數(shù),優(yōu)化通信及運行模式,優(yōu)化后,該應(yīng)用 GPU 利用率達到了 95%,NVLink 和 IB 通信帶寬都得到了充分利用,每次應(yīng)用迭代時長縮減至10s,應(yīng)用效率整體提升近 40% 。”
至于降本,他指出,目前超算行業(yè)用戶大約有10%的算力需求是租用,90%是自建,所以各大超算中心利用率未達到“飽和”。對于自建和租用,陳健給出的建議是,最適合的做法是自建波谷以下的部分,租用波谷以上到波峰的部分,這樣的投入產(chǎn)出比最高。
據(jù)了解,并行科技加入超算云服務(wù)這個賽道10年左右的時間,在積累海量用戶之后,會更多關(guān)注在用戶的應(yīng)用特點上,從客戶的需求去反推產(chǎn)品設(shè)計或者產(chǎn)品選擇。
陳健對記者表示,“我們用了15年的時間在做‘應(yīng)用運行特征分析’。我們分析用戶的應(yīng)用,根據(jù)應(yīng)用的特點去反推我們應(yīng)該選擇什么樣的算力或我們應(yīng)該新建什么樣的算力,以滿足用戶需求。坦誠來講,用戶需要的不是算力,而是完成他的任務(wù),只是要完成這個任務(wù),需要用到算力,這個邏輯我們要理清楚。所以對并行科技來說,我們通過算力網(wǎng)絡(luò)聚集了現(xiàn)在上百種算力,然后根據(jù)用戶的需求去選擇最適合用戶的算力。”
“算力為經(jīng)濟增長‘添馬力’。”最后,他指出,“作為獨立超算服務(wù)商、超算云服務(wù)化的主要推動者,并行科技希望通過自己的力量支持到千行百業(yè)的發(fā)展。”
【免責(zé)聲明】:
凡注明 “環(huán)球科技網(wǎng)” 字樣的圖片或文字內(nèi)容均屬于本網(wǎng)站專稿,如需轉(zhuǎn)載圖片請保留 “環(huán)球科技網(wǎng)” 水印,轉(zhuǎn)載文字內(nèi)容請注明來源“環(huán)球科技網(wǎng)”;凡本網(wǎng)注明“來源:XXX(非環(huán)球科技網(wǎng))”的作品,均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點和對其作品內(nèi)容的實質(zhì)真實性負責(zé),轉(zhuǎn)載信息版權(quán)屬于原媒體及作者。如轉(zhuǎn)載內(nèi)容涉及版權(quán)或者其他問題,請投訴至郵箱;1978751725@qq.com
本網(wǎng)公告
環(huán)球科技網(wǎng)從不發(fā)布負面新聞資訊,也絕不會發(fā)布負面信息。如發(fā)現(xiàn)負面信息鏈接請甄別是否為環(huán)球科技網(wǎng)所發(fā)。
本網(wǎng)系北京伯樂傳媒廣告有限公司主辦、所有。本網(wǎng)唯一域名(www.www.lzsczx.com),其它域名鏈接均為假冒。望廣大網(wǎng)民及企業(yè)主認真甄別。
咨詢、采訪、合作、投稿等請致電:13911566744(含微信)