大谷 發文作者 | 黃仁勳,作為全球頂尖的AI技術公司Nvidia的執行長,引領著AI狂潮的浪潮。然而,在他的腳下,出現了一群來自台灣的年輕挑戰者。 於四月五日,這群挑戰者組成了一個工程聯盟,其中成員包括Google、微軟、Facebook、亞馬遜等巨頭,他們共同成立了AI晶片產業測試基準的聯盟,名為MLCommons。這個聯盟舉辦了一場AI奧林匹克級的比賽,稱為MLPerf,並公布了一份數據。 這份數據對於AI技術的發展和測試具有重要意義,各大公司都通過這個測試基準來評估和比較他們的AI晶片性能。這樣的競爭和測試推動了AI技術的進步和創新,並為台灣的年輕挑戰者提供了一個展示自己實力的舞台。 這一系列的活動和數據公布,展現了台灣在AI領域的實力和潛力,為這些年輕挑戰者帶來了更多的機會和挑戰。他們將與全球頂尖企業競爭,繼續努力將台灣打造成為AI技術創新的重要據點,站上AI狂潮的巔峰。 小型晶片廠創鑫 首款晶片擊敗輝達最快GPU 創鑫智慧是一家來自台灣的小型晶片廠商,成立僅四年,擁有約四十多名員工。他們以台積電的七奈米製程開發了首款晶片,名為RecAccel N3000。這款晶片在每瓦一六六○次查詢(queries)的性能上,超越了輝達最快的GPU H100,效能是H100的1.67倍,因此獲得了第一名的成績,引起了晶片領域的熱議。 這個成就的意義在於,創鑫的N3000晶片能夠讓Meta、Google等雲端服務巨頭的伺服器和數據中心以更省電的方式達到更好的查詢效率。這對於提升雲端服務的效能和節能具有重要意義,引起了業界的關注和討論。 創鑫智慧以他們研發的高效能晶片在晶片圈掀起了話題,展示了台灣在晶片技術上的創新實力。這個成就對於台灣晶片產業的發展具有重要意義,也讓創鑫智慧成為了業界值得關注的新興力量。他們的成功開啟了更多可能性,為台灣晶片業帶來更多發展機遇。 確實,這波生生成式AI所需的大量計算力,輝達以CUDA運算平台和GPU軟硬體整合的優勢,佔據了高達78%的市場份額,站穩了領導市場的地位。這樣的優勢吸引了超微(AMD)、英特爾以及其他新創公司和雲端服務業者等大型晶片廠商,共同分食輝達這塊肥美業務。這是一個誘人的商機,引起了眾多業者的關注和競爭。 這家名為創鑫的台灣公司是一支挑戰黃仁勳(Nvidia執行長)的戰隊,位於新竹科學園區,該園區集中了眾多IC設計大廠。創鑫由台灣設計服務大廠和台積電持有股份的創意電子創辦人之一、清大資工系教授林永隆於2019年創立。主要投資者包括緯創旗下的鼎創、凌陽創投、力晶等公司。 創鑫董事長林永隆笑著表示:我們用小小團隊一次就成功地完成了這麼大的專案。這證明台灣是做晶片的好地方。這家新創公司的第一個產品就採用了台積電昂貴的7奈米先進製程,在台灣半導體業非常罕見。 7奈米製程是聯發科智慧型手機晶片投片的主要製程。創鑫能夠在早期階段就採用如此先進的製程,展示了他們在晶片設計和製造方面的實力和決心。這讓他們在眾多競爭對手中脫穎而出,成為台灣晶片產業中的一個引人矚目的新興力量。 鎖定特用市場,吸引超微合作 林永隆的學生兼創鑫技術長高肇陽指出:N公司(指輝達)製程已經走到4奈米,而我們用7奈米製程已經落後了1.5代。如果我們的製程再落後更多,產品成功的機會就不大。這位技術長的直言不讓製程的落後阻礙了創鑫超越輝達的晶片效能,凸顯了這家小型精兵公司的潛力。 在短短四年的時間內,創鑫取得了這樣的成績。這是因為林永隆選擇了市場上極少有人投入的伺服器用AI晶片,並專注於AI推論佔推薦系統的60%以上,針對類似臉書、Google等社群平台推薦模型的加速效能。 林永隆解釋道:我們和輝達走不同的路。輝達是通用型GPU,需要涵蓋廣泛的應用領域,從工程、氣象到遊戲都要能夠適用。然而,對於許多特殊領域的企業而言,目前的高規格GPU並不適用且成本昂貴。 創鑫則鎖定特定用途,加速AI運算的ASIC(特定應用積體電路)。這樣一來,他們避開了和輝達、超微、英特爾等大廠直接競爭的領域,才有可能獲得成功。創鑫的策略是專注於特定領域,以迎合特定客戶需求,並提供高效能且適用的解決方案。 創鑫在MlPerf賽事中展示了其晶片在超微上一代CPU的伺服器上超越輝達H100效能的成績,這立刻吸引了超微的注意。超微對創鑫表示關注,並準備與創鑫一起合作開發AI解決方案。 這樣的成果讓創鑫在AI晶片領域獲得了更多的認可和信任,超微作為一家知名的CPU供應商對於與創鑫合作開發AI解決方案表達了興趣。這樣的合作有助於將創鑫的技術應用到更廣泛的領域,並提供更多客戶所需的高效能AI解決方案。 |