本站5月29日消息,Cerebras Systems憑借其推出的全球最大尺寸芯片——Cerebras WSE,在AI推理速度上超越了NVIDIA集群。
Cerebras WSE芯片尺寸巨大,每邊長8.5英寸(約22厘米),更是集成了驚人的40億個晶體管,這一龐大的晶體管數(shù)量讓W(xué)SE在AI推理操作中創(chuàng)下了世界速度紀錄,比同等規(guī)模的NVIDIA集群快約2.5倍。
Cerebras首席信息安全官Naor Penso在溫哥華的Web Summit上表示:“這是全球最快的推理速度。就在上周,NVIDIA宣布其在Llama 4上達到每秒1000個token的處理速度,而Cerebras今日公布的基準測試結(jié)果則高達每秒2500個token。”
但芯片速度的提升不僅取決于晶體管數(shù)量,還有芯片的集成設(shè)計。WSE將所有組件集成在一塊芯片上,并配備了44GB的超高速RAM。
Penso表示:“AI計算需要大量內(nèi)存,而Cerebras無需像NVIDIA那樣依賴外接芯片。”
獨立機構(gòu)Artificial Analysis也表示:“我們測試了數(shù)十家供應(yīng)商的產(chǎn)品,Cerebras是唯一在Meta旗艦?zāi)P蜕铣紹lackwell的推理解決方案。”
Cerebras首席營銷官Julie Shin表示,WSE并非x86或ARM架構(gòu),而是一種全新的加速GPU的架構(gòu),她補充道:“這不是一項漸進式技術(shù),這是芯片領(lǐng)域的又一次飛躍。”
鄭重聲明:本文版權(quán)歸原作者所有,轉(zhuǎn)載文章僅為傳播更多信息之目的,如作者信息標記有誤,請第一時間聯(lián)系我們修改或刪除,多謝。