色综合一区_免费av电影网站_久久这里有精品_超碰3_91麻豆精品国产91久久久久久_欧美一区免费

 
當前位置: 首頁 » 市場觀察 » 行業前瞻 » 正文

下一代AI芯片,競爭的“芯”速度


  來源: 半導體行業觀察 時間:2024-06-11 作者:淺淺
分享到:

?


與英偉達的NVlink相似,AMD則推出了其Infinity Fabric技術,AMD Infinity 架構與第二代 AMD EPYC處理器一同推出,使系統構建者和云架構師能夠釋放最新的服務器性能,同時又不犧牲功能、可管理性或幫助保護組織最重要資產(數據)的能力。Infinity Fabric支持芯片間、芯片對芯片,以及即將推出的節點對節點的數據傳輸。


英特爾則是以太網的堅實擁護者,英特爾的用于生成式AI的Gaudi AI芯片則一直沿用傳統的以太網互聯技術。Gaudi 2每個芯片使用了24個100Gb以太網鏈路;Gaudi 3也使用了24個200Gbps以太網RDMA NIC,但是他們將這些鏈路的帶寬增加了一倍,達到200Gb/秒,使芯片的外部以太網I/O總帶寬達到8.4TB/秒。


拼服務


諸如ChatGPT這樣的生成式AI開發任務極其復雜,大模型需要在多臺計算機上運行數十億到數萬億個參數,它需要在多個GPU上并行執行工作,采用張量并行、流水線并行、數據并行等多種并行處理方式,以盡可能快地處理任務。

因此,如何能夠幫助用戶更快的開發,提供良好的服務也是關鍵一役。


在這方面,英偉達推出了一種新型的軟件NIMS,即NVIDIA Inference Microservices(推理微服務)。黃仁勛稱之為“盒子里的人工智能”,NIMS中包含了英偉達的CUDA、cuDNN、TensorRT、Triton。NIMS 不僅使部署 AI 變得更容易,只需幾分鐘而不是幾個月,它們還構成了客戶可以創建新應用程序和解決新問題的構建塊。如果采用,NIMS 將有助于加速創新并縮短價值實現時間。Nvidia 還宣布,NIMS 現在可供開發人員和研究人員免費使用。在生產中部署NIMS需要AI Enterprise許可證,每個GPU的價格為4500美元。


結語


下一場AI之戰已然打響,綜合來看,當前AI芯片市場上,英偉達、AMD和英特爾等主要芯片巨頭正在展開激烈的競爭。他們不僅在速度、技術和工藝方面競相創新,還在互聯和服務等領域積極拓展,致力于為用戶提供更快、更強、更智能的AI解決方案。AI芯片爭霸戰仍在繼續,誰能最終勝出?讓我們拭目以待。


(原標題:下一代AI芯片,拼什么?)


關鍵詞:AI芯片,人工智能,儀器儀表    瀏覽量:12876

聲明:凡本網注明"來源:儀商網"的所有作品,版權均屬于儀商網,未經本網授權不得轉載、摘編使用。
經本網授權使用,并注明"來源:儀商網"。違反上述聲明者,本網將追究其相關法律責任。
本網轉載并注明自其它來源的作品,歸原版權所有人所有。目的在于傳遞更多信息,并不代表本網贊同其觀點或證實其內容的真實性,不承擔此類作品侵權行為的直接責任及連帶責任。如有作品的內容、版權以及其它問題的,請在作品發表之日起一周內與本網聯系,否則視為放棄相關權利。
本網轉載自其它媒體或授權刊載,如有作品內容、版權以及其它問題的,請聯系我們。相關合作、投稿、轉載授權等事宜,請聯系本網。
QQ:2268148259、3050252122。


讓制造業不缺測試測量工程師

最新發布
行業動態
市場觀察
國際資訊
儀商專題
按分類瀏覽
Copyright ? 2023- 861718.com All rights reserved 版權所有 ?廣州德祿訊信息科技有限公司
本站轉載或引用文章涉及版權問題請與我們聯系。電話:020-34224268 傳真: 020-34113782

粵公網安備 44010502000033號

粵ICP備16022018號-4
主站蜘蛛池模板: 免费亚洲片 | 精品视频一区二区 | 欧美精品成人一区二区在线 | 亚洲a在线播放 | 午夜精品久久久久久久99黑人 | 欧美黑人性生活 | 二区视频 | 97国产在线 | 综合久久综合 | 色av成人| 九九久久国产 | 久久青青 | 国产成人精品一区 | 亚洲男人网 | 欧美亚洲国产一区二区三区 | 午夜影院网站 | 久色成人 | av小说在线观看 | 国产尤物 | 午夜久久久久 | 国产精品久久久久久久一区探花 | 日韩欧美一区二区在线观看 | 国产成人小视频 | 欧美日韩在线观看视频 | 国产综合亚洲精品一区二 | 午夜黄色影院 | 日本乱偷中文字幕 | 黄色电影天堂 | 久久精品国产清自在天天线 | 欧美成人影院 | 免费av一区二区三区 | 在线观看av网站永久 | 一区二区在线不卡 | 成人免费国产 | 国产福利91精品一区二区三区 | 中文字幕不卡一区 | 黄片毛片毛片毛片 | 国产乱码久久久久久一区二区 | 亚洲九九| 久久se精品一区精品二区 | 久草电影网 |