開發者構建基於生成式 AI 模型的軟件時，常以「給我 tokens，越快越便宜，現在就要」為座右銘。Parasail 行政總裁 Mike Henry 表示，這正是他聽到的心聲。Parasail 為運行 AI 模型推理的公司提供雲計算服務，據 Henry 向 TechCrunch 透露，該公司每日產生 5000 億個 tokens，堪稱 tokens 產量極大化。
Henry 曾在專注大型語言模型（LLM）的芯片製造商 Groq 擔任高管，負責開發該公司的雲端服務，這是早於業界意識到開發者需要專為 AI 模型優化的雲端處理。一年前從隱身模式浮出水面後，Parasail 完成 3200 萬美元（約 HK$2.496 億）的 A 輪融資，用以大規模擴展此服務。
靈活資源調度降低推理成本
Henry 擁有實體芯片設計背景，但 Parasail 並非堅持自有芯片。雖然部分 GPU 屬自家所有，該公司主要在全球 15 個國家 40 個數據中心租用處理時間，並從流動性市場購買更多資源，幕後協調一切以壓低推理請求成本。透過巧妙分配工作負載並避開需求高峰，Parasail 旨在與自有矽芯片的公司競爭，後者可能受現有客戶承諾和工作負載限制。 Parasail 的潛力取決於開源模型和代理在前沿實驗室外的持續擴散。
Parasail 高管及投資者指出，這源於使用 Anthropic 和 OpenAI 等公司服務的成本及摩擦日益增加。Elicit 行政總裁 Andreas Stuhlmüller 表示，一種混合架構正興起。Elicit 獲 2200 萬美元（約 HK$1.716 億）A 輪融資，開發科學文獻研究助理，其頂級製藥公司客戶使用 LLM 工具審核及分析數萬篇論文數據。
「我們轉向開源模型，因為向 API 端點發送數十萬請求相當棘手，」Stuhlmüller 向 TechCrunch 表示，尤其現在依賴代理提升服務，將任務拆分並在更長時間範圍內策略性運作。開源模型負責初步篩選降低成本，再由更強大前沿模型提供最終答案。 隨著代理成為軟件開發常見部分，模型查詢激增，推動 Parasail 等提供廉價推理基礎設施的公司獲投資。Touring Capital 合夥人 Samir Kumar（本輪領投之一）預期，推理將佔未來軟件構建成本至少 20%。
在擁擠的雲端計算領域，Henry 強調 Parasail 專注推理（不允許訓練）及接受無長期承諾的初創客戶，區別於專注企業業務的大型雲端公司，以及資金更充裕的雲端推理競爭者如 Fireworks AI 和 Baseten。當然，全數客戶為 AI 領域種子及 A 輪初創帶來另一風險。Kindred Ventures 合夥人 Steve Jang（另一領投）指出，模型部署經濟將需求 Parasail 的計算中介服務，尤其在內容生成及機器人廣泛應用前。
「人人以為有 AI 泡沫，其實沒有，」他向 TechCrunch 表示。「推理需求遠超供應。」
