在近日舉辦的2026人工智能+大會(2026 GAI+C)上,趨境科技聯合智譜與摩爾線程正式發布“國產異構推理高品質AI Token工廠解決方案”。依托全系統異構協同實現推理加速,該方案率先打通“模型-推理-芯片”產業閉環,以底層系統工程大幅重塑“Token 經濟性”,實現同等硬件投入下有效產出的成倍提升,並大幅降低綜合成本。
對此,趨境科技創始人兼CEO艾智遠表示:“大模型邁向商業閉環,算力成本是繞不開的第一道坎。當智能體與長文本把調用量推向指數級時,產業突圍的關鍵在於攻堅底層系統工程,將算力儲備轉化為用得起、跑得穩的確定性生產力。此次發布的方案,正是通過系統級深度協同,跨越淺層適配的性能瓶頸,以算力經濟性與生產級穩定性,真正實現從芯片、前沿模型到輻射全國核心產業規模化落地的全鏈路閉環。”
從輸入理解到輸出生成,大模型推理主要經歷兩個核心環節:用於快速解析上下文的Prefill(預填充)階段,以及負責逐字輸出生成的Decode(解碼)階段。傳統方案多由同類硬件貫穿始終,往往難以兼顧兩端截然不同的負載特征,不僅易造成局部性能閑置,更會推高綜合部署成本。
據介紹,為了打破軟硬件隔閡、讓不同類型算力資源各展所長,本次全新發布的方案依托趨境科技首創的全系統異構協同推理技術,可實現異構資源的精准協同,讓計算能力強的算力承載高計算密度的Prefill階段,讓顯存帶寬大的算力負責Decode階段。趨境科技將集群中的CPU、GPU、內存與高速網絡整體納入推理調度,在確保模型精度全鏈路無損、實施精細化跨卡協同組網,以及構筑毫秒級無損容錯機制的基礎上,打破單一芯片的性能瓶頸與異構協同的工程壁壘,在真實生產環境中將算力穩定轉化為更高品質、更具經濟性的AI Token產能。
在業務端,趨境科技國產異構PD相關方案已在生產環境全面投入使用,穩定承載萬億參數超大模型,並持續承接高並發真實業務流量。實測數據顯示,趨境科技採用其國產異構方案,已經使得普通算力可以在企業核心生產環節落地。
在生態端,趨境科技正加速推進技術與交付標准的規模化復制,參與構建多地、多源的算力供應鏈網絡。































222
訂閱
收藏
關注公眾號:人民網財經
微信掃一掃


第一時間為您推送權威資訊
報道全球 傳播中國
關注人民網,傳播正能量