据動察 Beating 監測,開源推論引擎 SGLang 背後的團隊正式成立公司 RadixArk,完成 1 億美元種子輪融資,投後估值 4 億美元。Accel 領投,Spark Capital 聯合領投,英偉達(通過 NVentures)和 AMD 兩家晶片對手同時參投,聯發科也在投資方之列。
SGLang 是模型與硬件之間的中間層,通過更高效地調度顯存來降低 AI 推論成本。項目 2023 年啟動,目前每天為谷歌、微軟、英偉達、Oracle、xAI 等處理數萬億 token。RadixArk 同時運營另一個開源項目 Miles,專注大規模強化學習訓練,已被用於 MoE(混合專家,一種只激活部分參數來降低計算量的模型架構)訓練。
公司由 Banghua Zhu 和 Ying Sheng 創立。融資將用於擴展兩個開源項目,支持更多模型架構和硬件平台,並推出面向企業的托管基礎設施服務。