類ChatGPT訓練需高性能晶片大規模並聯,高速介面IP迎紅利時代

發佈日期:

2023-04-10

流覽次數:

電子發燒友網報導(文/吳子鵬)


近段時間,ChatGPT的火熱重新掀起人工智慧產業熱潮,尤其是AIGC(指利用人工智慧科技來生成內容)領域,已經進入到狂飆姿態,科技企業爭分奪秒地尋求搶先發佈類ChatGPT應用。


眾所周知,類ChatGPT應用是一個吞金獸,微軟公司為了訓練ChatGPT使用了1萬張NVIDIA的高端GPU。 “從訓練的角度來看,計算效能再好的GPU晶片比如A100如果無法集群在一起去訓練,那麼訓練一個類ChatGPT的大模型可能需要上百年。囙此,AI大模型的訓練對高速介面IP是一個巨大的挑戰,也是一個巨大的機遇。”奎芯科技市場及戰略副總裁唐睿在接受電子發燒友網採訪時表示。


奎芯科技成立於2021年,是一家專業的集成電路IP和Chiplet產品供應商,該公司的口號是“芯粒高速互聯,海量算力源泉”。 現時,奎芯科技已經推出的高速介面IP組合包括USB、PCIe、SATA、SerDes、MIPI、DDR、HDMI、DP、HBM等豐富的類型。


類ChatGPT帶動介面IP發展


從半導體產業分佈來看,IP是底層技術,介面IP同樣如此,囙此關鍵性和重要性是不言而喻的。 那麼在AIGC產業裏,介面IP能够發揮哪些作用呢? 唐睿提到了以下幾點。


首先是晶片上的互聯介面,也就是Die to Die類型的互聯介面IP,包括UCIe等,用以擴充單晶片的計算能力; 其次是Chip to Chip類型的互聯介面IP,包括SerDes/PCIe/CXL等,能够加快晶片之間的互聯和資料交換,滿足更高頻寬的需求; 此外還有記憶體介面IP,包括SATA、DDR、HBM等,能够用於打造更高效能的儲存產品,幫助類ChatGPT儲存和交換大規模的數據; 再上一層就是數據通訊介面的介面IP。 囙此,從訓練的角度來看,類ChatGPT應用的爆發,能够帶來非常大的介面IP需求。


在此前的預測裡,有市場調研機構的資料顯示,2022年至2026年高速互聯IP的市場規模有望以75%的年複合增長率快速成長。 “介面IP市場的增長一定是跟隨整個高效能計算晶片大趨勢的,包括晶片運算效能、記憶體和頻寬方面的提升都需要介面IP的幫助,囙此晶片用量的提升一定會帶來更大的介面IP用量。”唐睿認為,“同時計算晶片效能的提升已經受限於摩爾定律放緩的影響,單晶片的效能會逐漸遇到瓶頸,那麼互聯組成算力集群就是一個有效的手段,這也會加快推動介面IP的發展。”


雖然產業熱潮來臨,不過唐睿並不擔心一下子會湧入很多同行或者友商,造成介面IP產業競爭。 “市場競爭的激烈程度會新增,但介面IP是高門檻的領域,現時可以做高速混合電路的人才其實並不多,特別是在先進制程上做高速類比電路設計的人才更少,囙此從零組建團隊進入這個領域是非常困難的。”他對此講到。


廠商的佈局和追趕


從全球產業格局來看,在介面IP方面,新思科技和楷登電子等EDA廠商以及其他國際上的介面IP廠商當今還處於領先位置。


“從科技上來看,介面IP廠商確實還處於互相追趕,不過這種差距已經越來越小。”唐睿指出,“2023年,奎芯科技將會推出一系列效能達到國際領先水準的介面IP產品,包括HBM3以及其他領先的D2D類型的互聯介面IP。”


同時,他還講到,在服務國內外客戶方面,實際上也會存在很多需求,需要根據這些需求結合晶圓廠的工藝特色,提供IP解決方案。 奎芯科技很多IP產品,在研發的過程中或者研發之前,就得到了客戶方的問詢,圍繞客戶的晶片架構,有非常清晰的需求。 奎芯科技聯合自己的下游客戶成立了多個產業聯盟,通過這些聯盟將不同類型的計算晶片公司聯合在一起,協作發展,圍繞資料中心應用把方案搭建更好。


當前,AI大模型訓練所用到的算力集群基本上都是基於NVIDIA通用算力晶片來打造,在這方面全球通用算力晶片還存在一定的效能差距。 唐睿表示,高性能計算晶片還是有機會的,AI大模型並不是一個近期出現的新鮮事物,近些年AI產業已經在跟進這一趨勢,只是類ChatGPT類型應用背後的大模型參數規模更大。 針對這方面的需求,晶片產業也早就啟動了這方面的佈局,包括奎芯科技所在的介面IP賽道,都在向這個方向努力。 不過,從IP研發到晶片設計,再到應用落地,這中間會有一個時間差。 實際上,國外的公司也是在用之前的晶片通過互聯在做這方面的硬體支持。


“還需要特別提出的是,AIGC是一個軟硬體結合的應用。軟體方面,算法模型的體量也是一個值得研究去突破的方向。現時,國外開源的AIGC算法裡,也並非只有Open AI的GPT算法,通過介紹資訊來看,也有一些參數更小的模型能够實現類ChatGPT應用。我們實際上可以借鑒這些模型,以减少軟件對硬體的需求壓力。”唐睿最後講到。


小結


IP對半導體產業有巨大的推動力量,在全球範圍內,約60多億美元的IP銷售額,帶動的是5000億美元的全球半導體市場銷售額。 對於全球晶片而言,短期內實現單晶片效能暴增的難度非常大,不過通過高速介面IP,用算力集群的管道,也能够逐步進入類ChatGPT的紅利市場。