午夜神马影院-日本天堂在线-国产精品777-奇米影视亚洲春色-天堂8中文-日本在线观看一区二区-天天干天天操天天插-国产精品女同-色骚综合-四川一级毛毛片-99在线看-国产极品久久-波多野吉衣毛片-婷婷在线综合-欧美视频成人-亚洲影视一区二区三区-国产精品久久久久久久一区二区-国产精品9191-污污免费观看-日本三区在线

今年逛WAIC，有一個(gè)變化挺明顯。聊算力的人依然很多，但大家討論的重點(diǎn)已經(jīng)和前兩年不太一樣了。過(guò)去更多是在比芯片參數(shù)、比峰值算力，今年不少?gòu)S商都開始強(qiáng)調(diào)模型真正跑起來(lái)之后的效率，比如訓(xùn)練速度、推理響應(yīng)、多卡通信，以及軟件生態(tài)和整體部署成本。

天數(shù)智芯這次發(fā)布天垓300，關(guān)注點(diǎn)也放在了這里。相比單純提升算力指標(biāo)，它更強(qiáng)調(diào)Attention、MoE、Agent推理等真實(shí)應(yīng)用場(chǎng)景的優(yōu)化，希望把底層算力更高效地轉(zhuǎn)化為實(shí)際業(yè)務(wù)能力。

天數(shù)智芯AI與加速計(jì)算負(fù)責(zé)人單天逸將AI的發(fā)展劃分為三個(gè)階段：處理和生成內(nèi)容的“信息智能”、能夠規(guī)劃并執(zhí)行任務(wù)的“行動(dòng)智能”，以及面向科學(xué)發(fā)現(xiàn)和未知探索的“探索智能”。在他看來(lái)，不同階段對(duì)應(yīng)著不同的計(jì)算需求，這也成為天垓300此次產(chǎn)品設(shè)計(jì)的核心思路。

針對(duì)目前應(yīng)用最廣泛的大模型場(chǎng)景，天垓300重點(diǎn)優(yōu)化了Attention和MoE兩項(xiàng)核心計(jì)算負(fù)載。大模型參數(shù)越做越大，上下文窗口越拉越長(zhǎng)，Attention運(yùn)算已經(jīng)成為整個(gè)訓(xùn)練和推理流程中最吃性能的環(huán)節(jié)。天數(shù)智芯公布的數(shù)據(jù)顯示，天垓300在不同精度下的Attention計(jì)算效率都超過(guò)了90%；在64K長(zhǎng)上下文的測(cè)試場(chǎng)景里，整體效能比Hopper架構(gòu)的主流方案高出大約10%。

MoE（混合專家模型）同樣是當(dāng)前主流大模型的重要方向。為了減少專家調(diào)度和數(shù)據(jù)路由帶來(lái)的性能損耗，天垓300針對(duì)算法和硬件進(jìn)行了協(xié)同優(yōu)化。官方數(shù)據(jù)顯示，在DeepSeek V4 MoE場(chǎng)景下，產(chǎn)品計(jì)算效率超過(guò)了70%，推理階段也能夠在保持響應(yīng)體驗(yàn)的同時(shí)支持更多并發(fā)請(qǐng)求。

除了訓(xùn)練，大模型推理也是此次升級(jí)的重點(diǎn)。尤其是Agent興起之后，模型不僅需要理解用戶需求，還要不斷調(diào)用工具、規(guī)劃流程并完成執(zhí)行，這也對(duì)首字響應(yīng)速度、多卡通信以及整體時(shí)延提出了更高要求。

針對(duì)這一變化，天垓300分別對(duì)Prefill和Decode兩個(gè)階段也進(jìn)行了優(yōu)化。按照官方公布的數(shù)據(jù)，在Qwen、GLM、Kimi、DeepSeek等主流模型測(cè)試中，產(chǎn)品首字延遲相比Hopper方案降低約20%；針對(duì)Decode階段頻繁的小數(shù)據(jù)通信，平均通信延遲降低約13%。這些優(yōu)化最終對(duì)應(yīng)的是智能編程、辦公助手、企業(yè)自動(dòng)化等Agent應(yīng)用更快的響應(yīng)體驗(yàn)。

除了生成式AI，天數(shù)智芯此次也把重點(diǎn)放到了未來(lái)可能快速增長(zhǎng)的探索智能領(lǐng)域，包括世界模型、新材料研發(fā)、數(shù)字孿生、氣象預(yù)測(cè)等科學(xué)計(jì)算場(chǎng)景。

不同于只針對(duì)Transformer進(jìn)行優(yōu)化的設(shè)計(jì)思路，天垓300采用SIMT通用計(jì)算架構(gòu)，可支持標(biāo)量、矢量和張量等多種計(jì)算類型，同時(shí)覆蓋FP4、FP8等多種計(jì)算精度，并支持矩陣求解、動(dòng)態(tài)規(guī)劃、稀疏計(jì)算等不同計(jì)算任務(wù)。官方介紹，在Cosmos3世界模型測(cè)試中，天垓300推理效能同樣較Hopper架構(gòu)主流方案提升約10%。

據(jù)天數(shù)智芯介紹，公司自2018年以來(lái)一直在完善軟件生態(tài)，目前已開發(fā)近百個(gè)加速庫(kù)，并支持主流AI框架、模型及關(guān)鍵加速組件。天垓300也已經(jīng)與國(guó)內(nèi)云廠商、服務(wù)器廠商等展開適配，可支持從單機(jī)到萬(wàn)卡集群部署，進(jìn)一步降低企業(yè)部署和遷移成本。天數(shù)智芯此次帶來(lái)的天垓300，并沒有只圍繞某一項(xiàng)性能指標(biāo)做優(yōu)化，而是把重點(diǎn)放在大模型訓(xùn)練、Agent推理以及科學(xué)計(jì)算等不同應(yīng)用場(chǎng)景。從現(xiàn)場(chǎng)介紹來(lái)看，這款產(chǎn)品希望覆蓋的不只是當(dāng)下的大模型應(yīng)用，也希望為未來(lái)更多AI計(jì)算需求做好準(zhǔn)備。

在熱點(diǎn)科技看來(lái)，今年WAIC釋放出一個(gè)比較明顯的信號(hào)：國(guó)產(chǎn)GPU的競(jìng)爭(zhēng)重點(diǎn)正在發(fā)生變化。過(guò)去行業(yè)更多討論芯片參數(shù)和峰值性能，而隨著大模型、Agent不斷進(jìn)入實(shí)際應(yīng)用，企業(yè)開始更加關(guān)注訓(xùn)練效率、推理體驗(yàn)、軟件生態(tài)以及整體部署成本。