首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|芯片|物聯(lián)網(wǎng)|量子|低空經(jīng)濟|智能汽車|特約記者
手機|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計算|大數(shù)據(jù)|報告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 人工智能 >> 正文

Deepseek R1 推理實測:4 塊英偉達 GB300 能干 16 塊 H100 的活,單卡吞吐量提升 6 倍

2025年8月27日 10:57  IT之家  作 者:故淵

8 月 27 日消息,科技媒體 WccfTech 昨日(8 月 26 日)發(fā)布博文,報道稱 CoreWeave 最新測試顯示,以 DeepSeek R1 推理模型實測,4 塊英偉達 Blackwell 架構(gòu) GB300 芯片就能完成原需 16 塊 H100 的任務(wù),單卡吞吐量提升 6 倍。

IT之家援引博文介紹,CoreWeave 使用 Deepseek R1 推理模型,對比評估英偉達 Blackwell 架構(gòu) GB300 NVL72 和上一代 H100 GPU 的差別。歸功于英偉達升級架構(gòu),增強內(nèi)存和帶寬,測試結(jié)果顯示,GB300 在僅使用 4 塊 GPU 的情況下,即可完成原本需要 16 塊 H100 才能運行的任務(wù)。

GB300 NVL72 平臺支持高達 37TB 的內(nèi)存容量(最高可達 40TB),并配備每秒 130TB 的內(nèi)存帶寬。該平臺為減少 GPU 間數(shù)據(jù)分割次數(shù),采用 4 路并行設(shè)計,并通過 NVLink 和 NVSwitch 高速互連提升通信效率。

CoreWeave 指出,這不僅是 FLOPs 算力的提升,更是系統(tǒng)架構(gòu)在實際業(yè)務(wù)場景下的效率躍遷。對于需要運行復(fù)雜模型的企業(yè)客戶,GB300 NVL72 提供了更高的擴展性和更低的延遲,幫助他們更快、更經(jīng)濟地部署和運行 AI 服務(wù)。

編 輯:章芳
飛象網(wǎng)版權(quán)及免責聲明:
1.本網(wǎng)刊載內(nèi)容,凡注明來源為“飛象網(wǎng)”和“飛象原創(chuàng)”皆屬飛象網(wǎng)版權(quán)所有,未經(jīng)允許禁止轉(zhuǎn)載、摘編及鏡像,違者必究。對于經(jīng)過授權(quán)可以轉(zhuǎn)載,請必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網(wǎng)來源。
2.凡注明“來源:XXXX”的作品,均轉(zhuǎn)載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網(wǎng)贊同其觀點和對其真實性負責。
3.如因作品內(nèi)容、版權(quán)和其它問題,請在相關(guān)作品刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系,我們將第一時間予以處理。
本站聯(lián)系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯(lián)系方式,進行的“內(nèi)容核實”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權(quán)。
推薦新聞              
 
人物
中國電信柯瑞文:星辰智惠 共治共享
精彩視頻
聯(lián)想集團陳振寬:聚焦AI三大主線,以全棧AI能力布局,推動算力產(chǎn)業(yè)與智能化轉(zhuǎn)型
華為周躍峰:打破數(shù)據(jù)孤島,提升數(shù)據(jù)基礎(chǔ)設(shè)施核心價值,賦能AI發(fā)展
中國鐵塔劉國鋒:筑牢算網(wǎng)底座,完善算力供給,賦能數(shù)字未來
中國廣電曾慶軍:算網(wǎng)融合賦能廣電發(fā)展
精彩專題
2025中國算力大會
ICT產(chǎn)業(yè)2025年中業(yè)績盤點
2025世界人工智能大會暨人工智能全球治理高級別會議
2025中國聯(lián)通合作伙伴大會
關(guān)于我們 | 廣告報價 | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像