提供業(yè)界領(lǐng)先的效能功耗比，單張 PCIe 介面卡即可執(zhí)行 700B 參數(shù)模型——無(wú)需 GPU 叢集,亦無(wú)須密集散熱

新竹2026年4月23日 /美通社/ -- 於 COMPUTEX 2026 展前，AI 推論解決方案先驅(qū) Skymizer Taiwan Inc.( 臺(tái)灣發(fā)展軟體科技股份有限公司)今日預(yù)先揭露其在地端 AI 部署的重大突破——HTX301 推論晶片，內(nèi)建於 COMPUTEX 2025 首次發(fā)表的軟硬體協(xié)同設(shè)計(jì)平臺(tái) HyperThought?。HTX301 為 HyperThought IP 的首款參考晶片，該 IP 為 AI 推論定義了長(zhǎng)期的架構(gòu)願(yuàn)景。此首版矽晶片在大幅簡(jiǎn)化超大型模型推論所需基礎(chǔ)設(shè)施的同時(shí)，亦帶來(lái)卓越的效能功耗比。

打破 GPU 對(duì)超大型模型推論的壟斷

一直以來(lái)，在地端部署超大型模型皆需仰賴(lài)龐大的 GPU 叢集、NVLink/NVSwitch 等高速互連技術(shù)，以及密集的散熱系統(tǒng)——導(dǎo)致成本高昂且維運(yùn)複雜。

Skymizer 於業(yè)界首次將此願(yuàn)景化為可能。

僅需一張 PCIe 介面卡——搭載 六顆 HTX301 晶片與 384 GB 記憶體——企業(yè)即可於本地執(zhí)行 700B 參數(shù)模型推論，每卡功耗僅約 240W。

HyperThought 針對(duì) 不同尺寸與形式的彈性擴(kuò)展 而設(shè)計(jì)——可封裝為 SoC 或介面卡，自 邊緣到迷你資料中心 皆可部署。單卡可由 1 顆晶片擴(kuò)展至 6 顆晶片，記憶體容量介於 32 GB 至 384 GB，支援 4B 至 700B 參數(shù) 的模型——讓企業(yè)依實(shí)際工作負(fù)載需求，精準(zhǔn)規(guī)劃部署規(guī)模，避免過(guò)度配置。

「推論已成為 AI 的主要工作負(fù)載,基礎(chǔ)設(shè)施也必須反映此一現(xiàn)實(shí)。」

「仰賴(lài)超大規(guī)模 GPU 叢集執(zhí)行超大型 LLM 的時(shí)代已經(jīng)結(jié)束。HyperThought 讓 AI 從僅屬於雲(yún)端巨擘的複雜工程，轉(zhuǎn)變?yōu)槊恳患移髽I(yè)皆可擁有的單卡級(jí)簡(jiǎn)潔方案。」

—— William Wei,Skymizer 行銷(xiāo)長(zhǎng)

消除企業(yè) AI 的隱藏稅負(fù)

其結(jié)果是：企業(yè)在享有資料隱私、低延遲與完整營(yíng)運(yùn)掌控權(quán)的同時(shí)，亦可擺脫 GPU 叢集所帶來(lái)的基礎(chǔ)設(shè)施負(fù)擔(dān)。

地端推論亦消除了「按 token 計(jì)費(fèi)」所帶來(lái)的支出焦慮——此焦慮已成為企業(yè)導(dǎo)入 AI 的無(wú)形稅負(fù)。雲(yún)端推論迫使團(tuán)隊(duì)必須精打細(xì)算每筆查詢(xún)，並限縮 Agent 的使用。HyperThought 則徹底解除此限制：一旦部署完成，企業(yè)便可在固定的基礎(chǔ)設(shè)施成本下，執(zhí)行無(wú)上限的推論。

HyperThought 為企業(yè)既有的 GPU 基礎(chǔ)設(shè)施提供互補(bǔ)，而非取代。透過(guò)將解碼(decode)密集的推論工作自 GPU 卸載，企業(yè)可提升整體叢集的利用率與電力效率。

驅(qū)動(dòng)企業(yè)跨領(lǐng)域的 Agentic AI 工作流程

HyperThought 與 HTX301 專(zhuān)為 agentic AI 工作負(fù)載而設(shè)計(jì)，此類(lèi)工作負(fù)載正快速成為企業(yè)自動(dòng)化的核心基石。搭配 OpenClaw 等 agent harness 框架，HTX301 能提供這些系統(tǒng)所需的推論吞吐量，並同時(shí)具備完整的資料自主權(quán)與可預(yù)期的延遲表現(xiàn)。

此一架構(gòu)可驅(qū)動(dòng)跨產(chǎn)業(yè)與跨領(lǐng)域的 agentic 工作流程與自動(dòng)化，包括:

金融服務(wù)(法遵、詐欺偵測(cè)、投資組合推理)；醫(yī)療與生命科學(xué)(臨床決策輔助、藥物交互作用分析)；製造業(yè)(預(yù)測(cè)性維護(hù)、品質(zhì)檢測(cè))；法律與專(zhuān)業(yè)服務(wù)(合約審閱、機(jī)密知識(shí)檢索)；政府與國(guó)防(主權(quán) AI、機(jī)密分析)；零售(客服自動(dòng)化、庫(kù)存推理)；軟體工程(私有 code copilot、自主 CI/CD)；以及 半導(dǎo)體與 IC 設(shè)計(jì)(地端 RTL copilot、驗(yàn)證 agent、針對(duì)自有 IP 的設(shè)計(jì)知識(shí)檢索)。

焦點(diǎn)應(yīng)用：地端 AI Coding。AI 輔助編碼已成為現(xiàn)代軟體團(tuán)隊(duì)的基本配備，且在「原始碼即公司命脈」的領(lǐng)域中，需求增長(zhǎng)最為快速。IC 設(shè)計(jì)公司無(wú)法將自有 RTL 上傳至雲(yún)端編碼助手，否則將面臨價(jià)值數(shù)十億美元矽智財(cái)外洩的風(fēng)險(xiǎn)；軟體公司在面對(duì)機(jī)密程式碼與客戶(hù)資料時(shí)，亦有相同的考量。HTX301 能提供足以支撐完全地端執(zhí)行私有 code copilot、RTL 生成器與驗(yàn)證 agent 的吞吐量——既消除雲(yún)端外洩風(fēng)險(xiǎn)，又完整保留 AI 輔助工程所帶來(lái)的生產(chǎn)力效益。

除了 agentic 工作負(fù)載之外，單顆 HTX301 晶片亦支援裝置端推論——涵蓋語(yǔ)音轉(zhuǎn)寫(xiě)、翻譯、視覺(jué)理解與多模態(tài) AI——適用於邊緣伺服器、AI 工作站、智慧 NAS 系統(tǒng)及各類(lèi)智能端點(diǎn)。

由 LISA? 與 HyperThought? 驅(qū)動(dòng)

HyperThought 由 LISA?(Language Instruction Set Architecture，語(yǔ)言指令集架構(gòu)) 所驅(qū)動(dòng)，此為 Skymizer 自主研發(fā)、專(zhuān)為 Transformer 推論最佳化的語(yǔ)言中心指令集架構(gòu)。LISA 在效能、功耗效率與擴(kuò)展性方面,全面支援自邊緣裝置至企業(yè)叢集的各類(lèi)部署。

地端部署的 HTX301 介面卡，與 HyperThought 裝置端 LPU 共用相同的 LISA 架構(gòu)基礎(chǔ)——一套 ISA、一套部署流程，自邊緣至資料中心，一以貫之。

Prefill/Decode 分離:HyperThought P/D 策略

LLM 推論包含兩個(gè)本質(zhì)上截然不同的階段：prefill(處理輸入提示，屬 compute-bound)與 decode(逐一生成 token，屬 memory-bandwidth-bound)。以 GPU 為核心的基礎(chǔ)設(shè)施強(qiáng)迫兩者共用同一塊矽晶片，在任一時(shí)刻總會(huì)造成運(yùn)算資源或頻寬資源的閒置。HyperThought 自架構(gòu)設(shè)計(jì)之初，即將此兩階段加以分離。

硬體堆疊——Decode 優(yōu)先的專(zhuān)屬矽晶片。HTX301 為 decode 階段量身打造——此階段是主導(dǎo)真實(shí)世界推論延遲、對(duì)記憶體頻寬極度敏感的 token 生成過(guò)程。既有 GPU 處理 compute 密集的 prefill；HTX301 介面卡則負(fù)責(zé) decode。每一塊矽晶片皆對(duì)應(yīng)其最適合的階段。

軟體堆疊——統(tǒng)一的 P/D 調(diào)度。Skymizer 的統(tǒng)一軟體堆疊——涵蓋 KV-cache 管理員、具階段感知能力的排程器，以及動(dòng)態(tài)配置引擎——可協(xié)同調(diào)度 prefill 與 decode 資源池，於節(jié)點(diǎn)之間傳遞 KV-cache 狀態(tài)，並隨工作負(fù)載變動(dòng)即時(shí)重新平衡 P:D 比例。

「專(zhuān)為 decode 打造的硬體，搭配能協(xié)調(diào)每一份推論工作負(fù)載的智慧軟體堆疊——這才是在規(guī)模化場(chǎng)景下分離 P/D 的真正做法。」

—— Luba Tang, Skymizer 技術(shù)長(zhǎng)

定義 AI 部署的下一個(gè)世代

隨著模型規(guī)模自數(shù)十億參數(shù)邁向兆級(jí)參數(shù),業(yè)界對(duì)暴力式 GPU 擴(kuò)展的依賴(lài)正面臨瓶頸。Skymizer 的存在，正是為了超越此一瓶頸——結(jié)合深厚的編譯器專(zhuān)業(yè)與針對(duì) decode 最佳化的矽晶片，定義 AI 基礎(chǔ)設(shè)施的下一個(gè)世代。

有關(guān) HyperThought 延伸平臺(tái)的完整藍(lán)圖，將於 Skymizer 在 COMPUTEX 2026 的記者會(huì)中公布。

申請(qǐng) HTX301 早期存取權(quán): skymizer.ai/press

關(guān)於 Skymizer Taiwan Inc.

Skymizer （臺(tái)灣發(fā)展軟體科技股份有限公司）成立於 2013 年，是一家專(zhuān)注於 AI 推論的公司。其旗艦平臺(tái) HyperThought 結(jié)合編譯器驅(qū)動(dòng)的軟體堆疊與針對(duì) Transformer 最佳化的硬體，可於裝置端、邊緣端與地端部署環(huán)境中，提供高效能的推論服務(wù)。