Kneron創辦人暨執行長劉峻誠:CPU像坦克車,GPU像卡車,像小客車的NPU未來具備顯著優勢!
張詠晴
2024-07-18 16:40

陽明山未來學社舉辦爐邊座談《我對2100年的想像》,本次邀請到劉峻誠擔任主講人,與我們一同探討AI的技術革新與應用普及,對於未來生活帶來的改變。 劉峻誠現為耐能智慧(Kneron)創辦人暨執行長,過去曾先後在高通、三星電子研發中心、晨星半導體(MStar)和Wireless Info等企業擔任不同的研發和管理職務。其中,在高通任職期間,劉峻誠領導的研發團隊共獲得9個核心技術專利,榮獲公司的ImpaQt研發大獎。

耐能智慧(Kneron)創辦人暨執行長劉峻誠以來自摩根士丹利(Morgan Stanley)、摩根大通(JPMorgan)、高盛(Goldman Sachs)的報告指出,雖然 GPU 的市佔率遠高於其他技術,但隨著 AI 技術的進步,這一趨勢僅會持續到 2027 年,而機構多預測 AI 技術的進步,將持續推動市場需求。

劉峻誠以人們使用不同種類車子的情境,來說明如今專為 AI 而生的 NPU 具備的顯著優勢。

他說 CPU 就像坦克車,功能主要是打仗用;GPU 就像卡車,功能主要是運載大量資料,且卡車相較於坦克車比較省油;專門針對 AI 運算設計的 NPU 則像是小客車,雖然大家已經習慣開卡車,但有一天當油價上漲了 200 倍,大家就會被迫開始嘗試去開小客車,進而發現小客車其實是更方便、更合適的選擇。

而上述提及油價的上漲,就對照到現在其實各國都處於運行 GPT 成本極為高昂的時代,而這實際上會成為 NPU 崛起的的一大機會!

劉峻誠表示,目前 NPU 的市佔率雖然僅有 8% ,但其低耗能特性,或許能成為 AI 時代能源短缺瓶頸的一大解方,而在讓 NPU 達到功耗、成本大幅減少方面,人工智慧新創公司耐能智慧(Kneron)功不可沒。

(劉峻誠擔任陽明山未來學社舉辦之爐邊座談《我對2100年的想像》主講人)

劉峻誠表示,自 2015 年在美國聖地牙哥創立以來,Kneron 致力於提供完整的終端 AI 以及軟硬體整合的解決方案,積極滿足大從自動駕駛、智慧冰箱,小至門鈴或各式 AIoT 產品的需求,並藉由自研的輕量級可重構神經網路架構,解決了邊緣 AI 設備所面臨的延遲、安全性、成本等三個主要問題,從而使 AI 無處不在。

近年來,Kneron 也陸續繳出多張亮眼成績單,包括將自研的 AI Soc 晶片 KL720 集成到高通用於機器人、無人機和工業 4.0 等場景;推出 AI 晶片KL730,提供每秒 0.35 - 4 tera 有效計算能力,以支持最先進的輕量級 GPT 大語言模型;與中華電信及訊奇深化合作,共同攜手打造智慧城市;完成 B 輪融資,總額達到 9700 萬美元;推出 EDGE GPT 解決方案,能夠支援 CNN 和Transformer 等主流架構,並運行離線企業 GPT 大模型,滿足小型企業或單一部門的 GPT 需求。

近期 Kneron 也攜手飛利浦,透過提供 KL 系列 AI 晶片,以及離線 AI 方案,在達到智慧設備的即時回應、複雜任務處理能力、延長智慧設備的電池壽命的同時,也確保數據的安全性和隱私保護。

「我認為每一個新的時代,一定會有一個新的王者崛起。我希望 Kneron 就是這間可以躍上國際的公司!」劉峻誠強調,未來 Kneron 將持續推出高品質 AI 晶片賦能 GPT,讓更多消費者和產業用戶受惠於 AI。