動察 Beating AI 快訊,AI 推論初創公司 Gimlet Labs 完成 3 億美元新一輪融資,估值達到 30 億美元。Andreessen Horowitz 領投,Arm 和微軟旗下 M12 新加入。Gimlet 做的是多芯片推論雲,把一次 AI 推論拆開,讓不同階段跑到更合適的芯片上。
這家公司融資速度很快。約半年前,Gimlet 剛完成 8000 萬美元 A 輪。再往前不到一年,它的種子輪只有 1200 萬美元。三輪合計融資 3.92 億美元。CEO Zain Asgar 稱,這一輪很快就談成,因為公司收到了多份投資方主動遞來的投資意向書。
Gimlet 原先主要提供芯片調度軟件,現在已經開始幫客戶搭數據中心,還在建設自己的數據中心。不同芯片對散熱、溫度和伺服器配置的要求並不一樣,只把軟件寫好還不夠,整套機房也得跟著重新設計。
例如 AI 推論裡的預填充和解碼,一個更吃計算能力,一個更依賴內存帶寬。Gimlet 可以把它們分給不同廠商的芯片處理。Arm 這次既投錢也合作,雙方還會讓 Gimlet 的軟件適配更多 Arm 芯片。
