日韩一级精品一区二区三区-天天在线视频免费公开-久草精品视频在线观看-日韩欧美一区二区三区自拍

 
當前位置: 首頁 » 市場觀察 » 行業(yè)前瞻 » 正文

下一代AI芯片,競爭的“芯”速度


  來源: 半導體行業(yè)觀察 時間:2024-06-11 作者:淺淺
分享到:

?


與英偉達的NVlink相似,AMD則推出了其Infinity Fabric技術,AMD Infinity 架構與第二代 AMD EPYC處理器一同推出,使系統(tǒng)構建者和云架構師能夠釋放最新的服務器性能,同時又不犧牲功能、可管理性或幫助保護組織最重要資產(數(shù)據(jù))的能力。Infinity Fabric支持芯片間、芯片對芯片,以及即將推出的節(jié)點對節(jié)點的數(shù)據(jù)傳輸。


英特爾則是以太網的堅實擁護者,英特爾的用于生成式AI的Gaudi AI芯片則一直沿用傳統(tǒng)的以太網互聯(lián)技術。Gaudi 2每個芯片使用了24個100Gb以太網鏈路;Gaudi 3也使用了24個200Gbps以太網RDMA NIC,但是他們將這些鏈路的帶寬增加了一倍,達到200Gb/秒,使芯片的外部以太網I/O總帶寬達到8.4TB/秒。


拼服務


諸如ChatGPT這樣的生成式AI開發(fā)任務極其復雜,大模型需要在多臺計算機上運行數(shù)十億到數(shù)萬億個參數(shù),它需要在多個GPU上并行執(zhí)行工作,采用張量并行、流水線并行、數(shù)據(jù)并行等多種并行處理方式,以盡可能快地處理任務。

因此,如何能夠幫助用戶更快的開發(fā),提供良好的服務也是關鍵一役。


在這方面,英偉達推出了一種新型的軟件NIMS,即NVIDIA Inference Microservices(推理微服務)。黃仁勛稱之為“盒子里的人工智能”,NIMS中包含了英偉達的CUDA、cuDNN、TensorRT、Triton。NIMS 不僅使部署 AI 變得更容易,只需幾分鐘而不是幾個月,它們還構成了客戶可以創(chuàng)建新應用程序和解決新問題的構建塊。如果采用,NIMS 將有助于加速創(chuàng)新并縮短價值實現(xiàn)時間。Nvidia 還宣布,NIMS 現(xiàn)在可供開發(fā)人員和研究人員免費使用。在生產中部署NIMS需要AI Enterprise許可證,每個GPU的價格為4500美元。


結語


下一場AI之戰(zhàn)已然打響,綜合來看,當前AI芯片市場上,英偉達、AMD和英特爾等主要芯片巨頭正在展開激烈的競爭。他們不僅在速度、技術和工藝方面競相創(chuàng)新,還在互聯(lián)和服務等領域積極拓展,致力于為用戶提供更快、更強、更智能的AI解決方案。AI芯片爭霸戰(zhàn)仍在繼續(xù),誰能最終勝出?讓我們拭目以待。


(原標題:下一代AI芯片,拼什么?)


關鍵詞:AI芯片,人工智能,儀器儀表    瀏覽量:12885

聲明:凡本網注明"來源:儀商網"的所有作品,版權均屬于儀商網,未經本網授權不得轉載、摘編使用。
經本網授權使用,并注明"來源:儀商網"。違反上述聲明者,本網將追究其相關法律責任。
本網轉載并注明自其它來源的作品,歸原版權所有人所有。目的在于傳遞更多信息,并不代表本網贊同其觀點或證實其內容的真實性,不承擔此類作品侵權行為的直接責任及連帶責任。如有作品的內容、版權以及其它問題的,請在作品發(fā)表之日起一周內與本網聯(lián)系,否則視為放棄相關權利。
本網轉載自其它媒體或授權刊載,如有作品內容、版權以及其它問題的,請聯(lián)系我們。相關合作、投稿、轉載授權等事宜,請聯(lián)系本網。
QQ:2268148259、3050252122。


讓制造業(yè)不缺測試測量工程師

最新發(fā)布
行業(yè)動態(tài)
市場觀察
國際資訊
儀商專題
按分類瀏覽
Copyright ? 2023- 861718.com All rights reserved 版權所有 ?廣州德祿訊信息科技有限公司
本站轉載或引用文章涉及版權問題請與我們聯(lián)系。電話:020-34224268 傳真: 020-34113782

粵公網安備 44010502000033號

粵ICP備16022018號-4