久久精品色妇熟妇丰满人妻99,久久久网,和少妇疯狂做爰过程,欧美系列亚洲系列国产系列

廊坊新聞網(wǎng)-主流媒體,廊坊城市門戶

大模型催生邊緣算力需求,這家公司要用Chiplet重構(gòu)AI芯片|把脈AI大模型

2023-06-28 01:47:58 來(lái)源:界面新聞

界面新聞?dòng)浾?| 李彪

當(dāng)GPT-4首次支持多模態(tài)后,文本、圖像、視頻及更多形態(tài)的數(shù)據(jù)都被設(shè)想成未來(lái)可以“喂給”大模型的數(shù)據(jù)。從訓(xùn)練到推理,從數(shù)據(jù)中心到邊緣,AI引爆的數(shù)據(jù)多模態(tài)化浪潮使得業(yè)界意識(shí)到算力明顯不夠用了。

“大模型的爆發(fā)首先帶動(dòng)的是訓(xùn)練,算力需求目前最緊俏也是這部分,英偉達(dá)目前在訓(xùn)練一側(cè)是絕對(duì)的霸主。但當(dāng)大模型訓(xùn)出來(lái)后,開(kāi)放API響應(yīng)廣大網(wǎng)友們每天的各種請(qǐng)求,推理的算力價(jià)值就會(huì)被浮出水面?!痹0雽?dǎo)體創(chuàng)始人兼CEO方紹峽博士接受界面新聞采訪中告訴記者。


(資料圖片僅供參考)

原粒半導(dǎo)體是一家AI Chiplet供應(yīng)商,公司正式成立于今年4月,創(chuàng)始團(tuán)隊(duì)來(lái)自國(guó)際半導(dǎo)體巨頭,在AI芯片領(lǐng)域深耕多年。

這支新創(chuàng)業(yè)團(tuán)隊(duì)的目標(biāo)是通過(guò)結(jié)合創(chuàng)新的多模態(tài)AI處理器技術(shù)與Chiplet設(shè)計(jì)方法,提供高能效、低成本的通用AI Chiplet組件,客戶可以根據(jù)實(shí)際業(yè)務(wù)需求低成本、靈活、快速配置出不同算力規(guī)格的AI芯片,以滿足多模態(tài)大模型的推理及邊緣端訓(xùn)練微調(diào)需求。

Chiplet通常被定義為模塊化芯片的設(shè)計(jì)概念,包含“IP芯片化(IP as a Chiplet)”和“芯片平臺(tái)化(Chiplet as a Platform)”。與之形成對(duì)比的傳統(tǒng)集成電路的SoC技術(shù)(片上系統(tǒng))。

它是將原本集成在一整塊芯片上全部核心處理器IP(例如圖形處理器 (GPU)IP、 視頻處理器 ( VPU )IP、 數(shù)字信號(hào)處理器 (DSP)IP、神經(jīng)網(wǎng)絡(luò)處理器 ( NPU )IP等等)按功能拆分成一個(gè)個(gè)的獨(dú)立單元,即芯粒,俗稱“小芯片”。芯片廠商通過(guò)采購(gòu)這些芯粒,按需求利用2D、3D封裝做拼搭組合,做到“即插即用”。

受摩爾定律的物理極限限制,傳統(tǒng)SoC技術(shù)在突破更小尺寸的先進(jìn)制程的迭代道路上成本高、良率低。

同時(shí)SoC芯片在近幾年的發(fā)展中,除與AI計(jì)算功能相關(guān)的IP外,其他部分規(guī)格變化緩慢,大模型的出現(xiàn)更是顯著拉大了這一差距。若沿著SoC路線,更新迭代流片成本過(guò)高。

在此前提下,Chiplet因?yàn)槟軌蛲黄茊晤w芯片的面積制約、模塊化后又通過(guò)先進(jìn)封裝可以實(shí)現(xiàn)異構(gòu)集成,是成本更低的解決方案。

此外,大模型推理對(duì)于邊緣算力的需求也是未來(lái)的另一大趨勢(shì)。

方紹峽認(rèn)為,與云計(jì)算的數(shù)據(jù)中心架構(gòu)相比,大模型在邊緣端的智能計(jì)算是在一個(gè)已經(jīng)訓(xùn)練好、有基本智能水平的模型基礎(chǔ)上。當(dāng)邊緣端具備多模態(tài)大模型的離線學(xué)習(xí)進(jìn)化能力時(shí),本地模型將變成私人定制化的東西,數(shù)據(jù)也無(wú)需再往云端上傳。這部分推理與訓(xùn)練微調(diào)過(guò)程主要依賴邊緣多模態(tài)大模型AI算力。

在這種前提下,同“一卡難求”的英偉達(dá)GPU提供給的算力相比,引入第三方算力自然而然地成了一種降成本、提效率的可行選擇。

目前,原粒半導(dǎo)體當(dāng)前思考的商業(yè)模式主要是作為AI Chiplet產(chǎn)品的上游供應(yīng)商,向下游的SoC廠商及系統(tǒng)廠商提供標(biāo)準(zhǔn)化的多模態(tài)大模型AI 算力Chiplet產(chǎn)品。

上下游產(chǎn)業(yè)鏈上的“SoC主控+AI Chiplet”組合可有效復(fù)用芯片主控,顯著降低成本,快速滿足各類規(guī)格需求,同時(shí)也是Chiplet產(chǎn)業(yè)化的機(jī)遇,預(yù)計(jì)也會(huì)是公司未來(lái)主要的營(yíng)收渠道。

原粒半導(dǎo)體自身定位于AI算力基礎(chǔ)設(shè)施供應(yīng)商。Chiplet目前還是新鮮事物。因此需要芯粒廠商積極適配SoC廠商及系統(tǒng)廠商需求,多模態(tài)AI算力Chiplet也將給AI算力市場(chǎng)帶來(lái)全新可能。

原粒半導(dǎo)體近期宣布已經(jīng)完成數(shù)千萬(wàn)元人民幣種子輪融資,本輪融資由英諾天使基金領(lǐng)投,中關(guān)村發(fā)展集團(tuán)、清科創(chuàng)投、水木清華校友種子基金、中科創(chuàng)星等多家機(jī)構(gòu)跟投。本輪融資將用于公司核心團(tuán)隊(duì)組建以及創(chuàng)新技術(shù)研發(fā)。

(文章來(lái)源:界面新聞)

關(guān)鍵詞: