近日,英偉于人英偉達(dá)推出了一款用于人工智能工作的達(dá)推頂級頂級芯片HGX H200。新的出用GPU升級了需求巨大的H100,內(nèi)存帶寬增加了1.4倍,工智內(nèi)存容量增加了1.8倍,芯片提高了其處理密集生成人工智能工作的英偉于人能力。
在備受矚目的達(dá)推頂級人工智能領(lǐng)域,英偉達(dá)提到,出用H200將帶來進(jìn)一步的工智性能飛躍。在Llama 2(700億參數(shù)的芯片LLM)上的推理速度比H100快了一倍。未來的英偉于人軟件更新預(yù)計(jì)會給H200帶來額外的性能領(lǐng)先優(yōu)勢和改進(jìn)。
H200將在具有四路和八路配置的達(dá)推頂級英偉達(dá)HGX H200服務(wù)器主板中提供,并與HGX H100系統(tǒng)的出用硬件和軟件兼容。
大型計(jì)算機(jī)制造商和云服務(wù)提供商預(yù)計(jì)將于明年第二季度開始使用H200。工智亞馬遜的芯片AWS、Alphabet公司的谷歌云、微軟Azure和甲骨文的云基礎(chǔ)設(shè)施,都承諾從明年開始使用這款新芯片。
英偉達(dá)高性能計(jì)算產(chǎn)品副總裁Ian Buck在近日的視頻演示中表示:“更快、更廣泛的HBM內(nèi)存集成有助于提高計(jì)算需求任務(wù)的性能,包括生成人工智能模型和[高性能計(jì)算]應(yīng)用程序,同時優(yōu)化GPU利用率和效率。”
H200還與已經(jīng)支持H100的相同系統(tǒng)兼容。英偉達(dá)表示,云提供商在將H200添加到混合中時不需要做出任何更改。亞馬遜、谷歌、微軟和甲骨文的云計(jì)算部門將在明年率先提供新的GPU。
一旦推出,新芯片肯定會很貴。英偉達(dá)沒有列出它們的價格,但據(jù)美國消費(fèi)者新聞與商業(yè)頻道報道,上一代H100的售價估計(jì)在25000至40000美元之間,其中數(shù)千臺需要在最高水平上運(yùn)行。并且,價格由英偉達(dá)的合作伙伴決定。
伴隨著人工智能的火爆,英偉達(dá)的高端GPU需求量極大。這也令其他芯片制造商瞄準(zhǔn)這一利潤豐厚的市場,加快推出高品質(zhì)的AI芯片,整個AI芯片市場競爭相當(dāng)激烈。英偉達(dá)此舉旨在鞏固其在AI計(jì)算市場的主導(dǎo)地位。
審核編輯:彭菁