本站5月19日消息,臺北電腦展開場演講中,NVIDIA CEO黃仁勛盡情暢談AI,并首次宣布了全新設計的“RTX PRO服務器”,定位企業級AI、工業級AI計算平臺。
它配備了多達八塊最新的RTX PRO 6000 Blackwell服務器版專業顯卡,均采用GB202芯片,配備24064個CUDA核心、512-bit 96GB GDDR7顯存。
合計就是幾乎20萬個核心、800GB顯存,顯存帶寬高達13TB/s!
八塊顯卡通過ConnectX-8 SuperNIC Switch連接在一起,全向帶寬800GB/s,不存在傳輸瓶頸。
單卡功耗600W,總計就是48000W,再加上CPU處理器(具體不詳)和其他各種元件,整機功耗將超過5000W。
性能自然是極為恐怖的,FP4數據格式下的AI性能高達30PFlops(每秒3億億次),圖形渲染性能也有3PFlops(每秒3千萬億次)。
有了它,可以輕松運行各種滿血的AI大模型。
眾多OEM、ODM合作伙伴將陸續推出RTX PRO服務器產品,包括:思科、戴爾、慧與、聯想、研華、華擎、仁寶、富士康、技嘉、神達、微星、和碩、緯創、超微、英業達、廣達、華碩、緯穎。
在現場,黃仁勛展示了來自華擎、微星的樣機。
鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播更多信息之目的,如作者信息標記有誤,請第一時間聯系我們修改或刪除,多謝。