代幣燒錢,企業要求員工給予「精準提示詞」防止預算失控

DW
分享
代幣燒錢,企業要求員工給予「精準提示詞」防止預算失控

企業在引進 AI 時正面臨顯著的成本挑戰。現行 AI 運算以 Token 計費,但在生成內容品質仍具不確定性的情況下,企業難以精準預估控管營運成本。此外,大型語言模型的計費結構變動頻繁,連帶壓縮了第三方軟體商的獲利空間,加上 AI 代理使用量呈爆發性成長,如何在變遷的技術生態中,精準平衡技術價值與財務成本,已成為當今科技業的核心課題。

難以預測的 Token 成本預算 

大語言模型在處理提示詞、生成回應時,會將內容拆解為最小運算單位 Tokens(代幣)。由於 AI 具備非確定性(Non-Deterministic)特徵,相同的提示詞未必能產生相同的回應,微調指令或更換模型都會顯著改變 Token 消耗量,當企業開始串聯多個 AI Agent 進行協同決策時,Token 消耗量與不確定性更呈指數級飆升,使企業極難在兩至三年內鎖定固定的成本模型。

代幣消耗失控,企業燒錢苦撐

儘管 Token 成本近年有下降,但整體使用量正迎來爆發式成長,高盛預測隨著企業大量轉向 AI 代理,2026 至 2030 年間,全球 Token 消耗量將暴增 24 倍,達到每月 1,200 兆(120 Quadrillion)規模。

廣告 - 內文未完請往下捲動

許多企業往往要到收到月度帳單時,才驚覺代幣預算早已失控,以 Uber 為例,僅用數月便耗盡全年的 Token 預算。

在產品中導入 AI Agent  極為簡單,管理階層只需輕點按鈕即可完成部署,遠比調整人力或招募員工來得快速,然而,這種便利性也讓安全測試與建立防護等隱性 Token 成本在無形中急劇攀升。

Sumo AI 音樂創作公司:產品難定價

AI 音樂創作公司 Sumo 表示目前正為該如何向客戶收費而苦惱,曾考慮過「全面漲價」、「按成果付費」或「按件收費」等方式,然而當上游的 LLM 供應商,每隔幾個月就調整一次價格,價格結構就會被打亂,Sumo 也不能把成本轉嫁給消費者,沒有用戶喜歡浮動性的收費。

(AI創作者大幅成長、AI音樂生成器Suno付費用戶突破200萬)

(AI音樂佔據主流串流平台,美國音樂產業工會攜手推動標籤識別系統)

AI 代理增加企業成本

在現代 AI 運作系統中,單個模型已無法滿足複雜需求,企業越來越仰賴多個 AI Agent 協同工作與執行任務,然而,Agent 之間的連續 Chained Calls 以及頻繁的互動,會讓 Token 的消耗量更加飆升。

企業可以如何控制代幣燒錢

目前企業在實務上主要透過以下幾種做法,來建立防護機制,控制 AI 代幣成本。

  • 限制使用高成本工具:企業直接限制員工或工程師使用某些特定的外部 AI 工具,微軟便對旗下工程師限制了某些第三方 AI 編碼工具的使用,以控制不必要的預算支出。
  • 提高提示詞(Prompt)精準度:企業需要訓練員工給予 AI 極度精確、詳盡的指令,就像要求家人出門採買雜貨時,必須給予一張明確的「購買清單」一樣,精準的提示詞能避免 AI 產生無效或多餘的回應,進而減少代幣的浪費。
  • 審慎選擇 AI 模型:企業在導入技術時,不應盲目追求最新或最複雜的模型,應該要更仔細評估最符合特定任務且性價比合適的 AI 模型。
  • 預先編列額外成本:許多產品經理部署 AI 時,只計算了開發成本,然而,建立安全防護與系統測試,也需要消耗大量的代幣,企業在設計防護機制時,必須提前將這些成本也列入預算當中。
  • 利用個人帳戶過渡:部分小型企業目前會利用個人帳戶來規避昂貴的企業戶流量計費,不過專家警告,隨著 AI 巨頭皆面臨股東要求獲利的壓力,這種灰色地帶遲早會迎來全面整頓,因此企業不應將其視為長期控制成本的解決方案。

 

 

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。