自動生成式人工智慧技術背後,還有電力損耗問題

在自動生成式人工智慧的盛行下,OpenAI 推出的 ChatGPT 服務的使用量急速增加。然而,這種技術所需的耗電量也是值得關注的問題。

以平均一次提問 5 個問題、每天處理超過 80 億個單詞推論為例,必須透過逾 3 萬張 A100 加速器進行處理,並消耗約 1872 萬 kW 的耗電量。對於這樣的耗電量而言,未來必須思考改善方案,才能維持可持續的發展。

此文章發佈於 TechRitual 香港