位於英國牛津的 Lumai 公司推出全球首個可即時運行十億參數大型語言模型（LLM）的光學運算系統，名為 Iris Nova。這款伺服器有助企業提供人工智慧（AI）推理服務，同時功耗可低至傳統系統的 10%，即節省高達 90%。傳統矽基運算已接近效率極限，嚴重影響可擴展性和耗電量。新一代傳統處理器雖提供更多運算力，但能源消耗呈指數級上升。為因應 AI 時代，數據中心預計耗電量將創歷史新高，估計全球電力需求在本十年末將倍增，以滿足 AI 推理的增長需求。
光學運算系統
面對矽基運算收益遞減，Lumai 轉向光子而非電子運算。公司指，此轉變可帶來一個數量級的運算性能提升，同時大幅節省能源。Iris Nova 伺服器利用光繞過二維矽晶片限制，實現巨量空間並行處理。它採用混合處理器，光學張量引擎負責數學運算，數位處理則用於系統控制。作為牛津大學分拆公司，Lumai 致力滿足 AI 熱潮帶來的運算需求。透過三維空間內的光運算，系統可同時執行數百萬次運算，光學處理器帶來更快推理速度和更高執行效率。
為展示實力，Lumai 最近在 Iris Nova 伺服器上使用混合數位處理器，即時運行 Llama 8B 和 70B 模型，證明其可無縫整合數據中心並融入現有工作流程。公司已向超大規模雲端供應商、新興雲端企業、企業及研究機構提供 Nova 伺服器評估。此外，Lumai 產品線還包括 Aura 和 Tetra 兩款伺服器，提供更大容量，並比 GPU 系統更可持續地交付 AI 推理。
英國政府支持機構 ARIA 計劃總監 Suraj Bramhavar 表示：「現有 AI 處理器的需求迫切需要尋找替代擴展路徑，Lumai 正帶頭示範光學處理器可提供此途徑，ARIA 興奮與其合作探索超越傳統數位運算範式。」Lumai 行政總裁兼聯合創辦人 Xianxin Guo 在新聞稿中補充：「產業正邁向推理時代，同時跨入後矽時代。」
