AI越便宜,帳單越貴:企業導入AI要過的三道關
先給一個畫面。
預算編了,工具發了,同事也都在用了。老闆把財務報表推到你面前,問一句:AI到底幫公司省下多少錢?
你答不上來。
這不是你一個人的窘境。埃森哲做過一項調研,橫跨17個國家、訪問750位年營收超過10億美元的企業高管,發現一個反直覺的現象:Token的單價一路在跌,企業的AI帳單卻一路在漲。
先把數字擺出來。未來兩年,企業預估Token單價會跌19%,用量會漲78%。一個跌、一個漲,聽起來像是扯平了?實際不是。用量漲的速度,把價格跌的幅度整個吃掉了,兩相抵消之後,總帳單反而會多出大約44%。今天每花1000萬美元(大約3.2億新台幣)在AI上,如果放著不管,兩年後會變成1440萬美元。
埃森哲還補了一組更扎心的數字。企業花在Token上的錢,只有大約兩成能對應到一個說得出口的財務結果,比如多賺了多少、省了多少。剩下八成,大家心裡都知道這些AI沒白用,卻講不清到底值多少錢。
Uber就是現成的例子。它曾經鼓勵工程師盡量多用AI,甚至做了一張Token消耗排行榜,結果2026年才過四個月,全年AI預算就燒完了。最後只好設下每人每款工具每月1500美元(約4.8萬新台幣)的上限,不同工具的額度還不互通。錢花去哪了?連Uber自己的高層都說,很難講清楚這樣用AI,到底讓產品好在哪裡。
你看,問題從來不是「AI行不行」。是這筆帳,算不清楚。
要講清楚這筆帳為什麼算不清,我想借一個完全不相關的行業來說明,火箭。
SpaceX的獵鷹9號,這幾年最出名的一件事,是火箭能飛上去、還能自己飛回來。但真正的重點不在「能回來」,而在「能一飛再飛」。同一枚助推器反覆使用,據業內測算,把單次發射的邊際成本從全新火箭的5000萬美元,一路壓到1700萬美元左右。同一支火箭,飛一次和飛二十次,帳完全不一樣。
可重複使用的火箭要成立,得跨過三道關,而且是有先後順序的。
第一道是技術問題:火箭能不能回來?能不能穩穩地降落、不摔壞?這是「做得到嗎」的問題。
第二道是工程問題:回來的火箭能不能再飛?維修、檢查、周轉的流程跑不跑得順、快不快、貴不貴?這是「能不能穩定、低成本地重複做」的問題。
第三道是商業問題:一飛再飛,這筆帳到底划不划算?發射一次收多少錢、成本多少、賺不賺得回來?這是「算不算得清回報」的問題。
三道關卡,一關比一關難,而且必須按順序過。技術沒過,談工程是空談;工程沒穩,談商業是畫餅。
企業導入AI,走的是一模一樣的路。多數企業以為自己在過第一關,其實早就進了第二關,卻用第一關的心態在管第二關的帳。這正是前面那筆糊塗帳的根源。
下面我們一關一關來看。
第一關
技術問題,AI到底能不能用
第一關問的是最根本的事。模型夠不夠強、API通不通、能不能跑出一個像樣的結果。
對多數企業來說,這一關其實已經過了。今天的模型能力擺在那裡,寫文案、整理資料、回答客服問題、輔助寫程式,早就不是問題。開發者接一個API,幾天就能做出一個能動的東西。技術上「做得到」,已經不稀奇。
但這關有個容易被忽略的暗角,是台灣這類企業尤其繞不開的:資安與資料歸屬。
把資料餵給一個外部模型,資料去了哪裡?停留多久?會不會被拿去訓練?這些問題,在行銷或內容場景裡或許還算模糊地帶,但只要碰到客戶資料、財務數字、病歷、個資,就變成硬門檻。金融業、醫療業、政府單位,往往不是「模型不夠好」被卡住,是「資料不能出去」被卡住。
於是就出現了一個分岔:有些企業乾脆把敏感資料留在本地,用開源權重的模型自己架;有些選擇雲端服務,但要求供應商簽下嚴格的資料處理條款。這一步怎麼選,不只影響成本,還牽動後面的工程設計和商業帳。
所以第一關真正的門檻,是AI能不能在合規的邊界內動。跨過這一關的標誌很清楚:你有一套可以講給法務和稽核聽的資料處理原則,而不是每次有人問起,就打太極。
第二關
工程問題,能不能穩定又便宜地飛
第二關是主戰場,也是多數企業現在真正卡住的地方。
火箭回收成功只是第一關,真正的難題是它還能不能再飛、飛得順不順、划不划算。AI也一樣:東西能動了,接下來要問的是,它能不能每天都穩定地動,而且動得夠便宜。
這裡有三件事,做不好就是白花錢。
用錯模型,比模型貴本身更燒錢
第一個浪費來源,是拿大砲打蚊子。
埃森哲分析了職業資料庫裡的9368項任務,排除體力工作和必須人工簽核的部分,評估每一項對模型能力的要求,發現真正需要最強旗艦模型的任務,大約只占一成。那另外九成呢?中階模型就夠了。
但實際情況完全相反。調查顯示,高達54%的AI請求,用的模型檔位高於任務的實際需要。而旗艦模型和中階模型,每個Token的價格可以差到10到20倍。
這就像公司配電腦。日常就是寫文件、做表格,不需要每個人都配頂規工作站。報告裡有家亞洲大型銀行,為工程師開放AI編程助手,三個月後帳單遠超預期。一查才發現,不少工程師習慣直接選最強的模型,但他們日常處理的大部分工作,便宜一點的模型就能完成。
這件事在工程上的解法叫「模型路由」:依照任務難度,自動分派到不同檔位的模型。查訂單、回常見問題,用便宜模型;碰到複雜客訴,才叫旗艦上場,必要時再轉人工。同樣一個功能,一家每次要花一塊錢,另一家只要三毛,後者就有本錢給客戶更好的價格,還留得住自己的利潤。
雲端還是自建,是兩種成本結構的取捨
第二件事,是「用雲端方案,還是企業自建落地」。
這是兩種完全不同的成本結構,得看你的處境來選。雲端專有模型,好處是開箱即用、能力頂尖、不用養人,缺點是按用量計費,用得越多帳單越高,資料還可能得出門。自建(用開源權重模型自己架),前期要投入硬體和人力,但一旦跑順,邊際成本可能低得多,資料也留在自己家裡。
埃森哲自己就是後者的例子。它內部每週要處理8.7兆個Token的巨量工作,如果全走旗艦API,帳單會很可觀;它改用自建路徑之後,成本大約只有旗艦API的六分之一。
所以這個選擇沒有標準答案,要看你的用量規模和資料敏感度。用量小、資料不敏感,雲端省事;用量大、資料敏感,自建的長期帳可能划算得多。真正的坑是「兩邊都沒想清楚」。既用了雲端的高價,又養了一堆用不上的本地算力,兩頭都虧。
看不到,就管不了
第三件事最容易被忽略:可觀測性。
你的AI系統每天跑多少請求?每個請求花了多少Token?哪個部門、哪個功能在燒錢?如果這些看不見,前面講的模型路由、快取優化,全部無從下手。就像一支火箭飛出去,如果沒有儀表板,你不知道它哪裡漏油。
配套的做法是快取。報告裡有家公司發現AI編程費用漲太快,啟用了提示快取,讓重複使用的輸入內容不必每次重新處理,費用立刻降下來。企業的日常裡,大量請求其實是重複的。同樣的客服問答、同樣的資料查詢,快取一次,省下的是實實在在的錢。
模型路由、雲端或自建、可觀測性與快取,這三件事做好,你就從「能飛」走到了「能穩定又便宜地飛」。但到這裡,還只是把成本壓下來。真正決定這套系統能不能活下去的,是下一關。
第三關
商業問題,這筆帳算不算得出來
第三關,也是最難的一關。火箭能回收、能複飛,還不夠。要一飛再飛,得先證明每次飛完是賺的。企業導入AI也一樣,成本壓下來只是把支出管住,真正的問題是這筆錢花出去,換回了什麼?
省下來的錢,多數企業會拿去花更多
先看一個反直覺的發現。埃森哲問受訪高管:如果Token再降價至少25%,你們打算怎麼做?據劉潤解讀引述的調查,只有5%的人打算維持用量不變、把錢省下來,其餘的人全部準備把AI用得更兇。42%要擴大現有應用範圍,35%要啟動過去嫌太貴、擱置的專案,13%要給現有任務換上更強的模型。
這個分布藏著一個生意機會。大部分企業想用AI,只是有些需求過去算下來太貴、不划算,只好擱著。現在單位成本降了,這些專案值得重新算一遍。
比如一家公司想用AI處理客戶諮詢,一算每處理一個問題的成本跟人工差不多,那就很難推。現在模型便宜了,同樣一筆錢能處理更多諮詢,這案子就值得重啟。又比如原本只給幾十個核心工程師配AI助手,價格一降,可能就願意推廣到整個研發部門。
對做AI產品、想把AI賣進企業的人來說,這是個訊號:回頭去找那些「談過、但因為價格太高而擱置」的客戶,幫他們把這筆帳重算一次,就可能打開一個新的銷售機會。
回報的關鍵,是事前就想好要量什麼
錢花了、成本壓了、用量也上去了,最後一關是:這一切值多少?
前面提過,只有約兩成的Token支出能對應到量化的財務結果。問題往往出在一開始就沒想清楚要量什麼,等到要編下一次預算,才發現自己拿不出數字。
這裡有一正一反兩個例子。
反例是Uber。它先鼓勵大家狂用AI,用量衝上去了,帳單也爆了,卻說不清換回了什麼,最後只能靠設上限來止血。這是一條「先花錢、再想辦法補帳」的路。
正例是荷蘭銀行ABN AMRO。它的做法完全相反,要求每一個AI應用上線前,都得先講明白至少一項要達成的價值目標。截至目前,這家銀行有40個AI應用投入生產。其中一個語音機器人,每月處理大約八成的來電,每週省下約500小時;另一個金融犯罪風險評估工具,每月省下約800小時。
差別在哪?ABN AMRO在把AI用上去之前,就已經想好要衡量什麼,之後也持續在記錄。Uber是先用了再說,帳自然說不清。一優一劣,分野不在技術,在天平有沒有先架好。
對企業內部推AI的主管來說,這件事的啟示很直接:每一個AI專案上線前,先問一句「三個月後我們要用哪個數字,來證明它值得」。這個數字可能是處理時長、可能是一次解決率、可能是返工率。
而在大一點的組織裡,還有一件事能把這筆帳從此算清楚,叫「Token計費回沖」(Chargeback)。說白了,就是讓每個使用AI的部門,為自己消耗的Token付費,直接從這個部門的預算裡扣。當成本真正落在用的人頭上,採購和用量就會自動收斂:該用便宜模型的地方自己會去省,用不到的呼叫自己會停。埃森哲的數據就顯示,導入這套機制之後,能對應到財務結果的支出比例,從兩成升到了三成二。數字不大,但方向對了。
預算能省、用量能漲、回報能算,這三關都過了,Token就越便宜,企業越有機會把錢花在對的地方,前提是有誰能把這筆帳算清楚。
回到火箭。獵鷹9號真正顛覆航太業的,是它每次飛完都算得清這筆帳,於是下次敢再飛、敢再飛、還敢再飛。能回收只是技術,能複飛只是工程,能算清楚每次飛的損益,才是商業。企業導入AI,走的是同一條路。
下次老闆再問你「AI到底省了多少錢」,你最好已經有一張表,上面寫著每筆支出換回了什麼。這張表不只關係到你的預算,也關係到賣你AI的那些人:一個說得清回報的客戶,他們才敢繼續投資源;說不清回報的客戶,第二年續約時,雙方都會猶豫。企業的AI預算,最後只會流向那些能把它算清楚的人。
AI的錢,從來不難花。難的,是花得明白。
最後 這份 埃森哲 <面向CIO的AI Token經濟學指南> 原文報告下載 也提供給想閱讀的朋友們參考了!
歡迎訂閱我的文章,第一時間可以收到喔!
覺得值得分享這篇文章:
常見問題
為什麼AI單價下降,企業的總體AI支出反而上升?
因為用量成長的速度遠超過價格下降的幅度。埃森哲調研顯示,未來兩年Token單價雖會下跌近兩成,但用量會暴增近八成,兩相抵消後總支出反而多出四成以上。
企業導入AI會遇到哪三道關卡?
第一關是技術問題,確認AI能不能用、資料是否合規;第二關是工程問題,讓AI穩定且低成本地運作,涉及模型選擇、雲端或自建、系統可視性;第三關是商業問題,釐清這些投入到底換回多少實際價值。這三關必須依序跨過,前一關沒解決,後面都是空談。
什麼是模型路由,為什麼能幫企業省錢?
模型路由是依照任務難度,自動把請求分配給不同檔位的AI模型處理,簡單任務用便宜模型、複雜任務才動用旗艦模型。研究發現許多企業有高比例的請求用了超出需求的昂貴模型,善用路由機制能大幅降低不必要的支出。
企業該如何讓AI的投資回報變得可衡量?
關鍵在於專案上線前就先訂好要追蹤的具體指標,例如處理時長或問題解決率,而非事後才回頭找數據。像導入Token計費回沖機制,讓各部門自行承擔使用成本,也能有效提升支出與成果之間的對應比例。
