請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

AI開始變貴了!Uber、微軟、台灣金融業帳單失控背後,藏著新一波台廠商機

商業周刊

更新於 07月16日03:35 • 發布於 07月16日01:00 • 何佩珊

「你已經達到階段額度,請等到下午1點03分之後,重新計算。」你是否也在AI對話框看過相似的句子,而且出現的次數越來越頻繁?

這句話,不只是對個人AI用量的提醒,背後更藏著一套牽動著企業競爭力、AI硬體新商機、乃至中美AI模型大戰的「Token經濟學」。

Token,是AI模型運作的最小計價單位,你對AI說的每一句話、它回覆的每一個字,都會被拆解成一個又一個的Token來計費。訂閱制的AI模型多數都設有Token使用上限。

如今,這個大小約只有0.75個英文單字的單位,竟然成了可以撬動全球科技版圖、地緣政治的新槓桿。

先來看看過去半年,國內外企業「失控的AI帳單」。

首先是美國叫車巨頭Uber,今年不到4個月時間,它就燒光了原本編列一整年、用於編碼工具的AI預算。由於費用大幅超支,逼得它祭出限制,每位員工每個月,在每項AI工具最多只能花費1,500美元。

AI帳單成財報不可忽視費用

Token用量增速遠超成本下跌速度

爆量的帳單,引發一票原先積極鼓勵員工用AI的科技巨頭,紛紛踩煞車。

像社群網站龍頭Meta,已發出一份內部備忘錄,警告員工AI用量正呈現「指數級增加」;電商龍頭亞馬遜(Amazon),也悄悄撤下員工比拚AI用量的排行榜。

鏡頭轉到台灣,同樣的現象也在發生。

「前5大銀行這些業者,今年明顯感受到閉源模型的Token(使用量)已經爆量。」一名AI服務商高階主管指出,不只金融機構,包括國內許多傳產業者也開始憂心,公司可能會扛不住快速增加的AI成本。

而且真正的挑戰,恐怕還沒到。

一家台灣正全力開發AI代理人應用的大型金控業者估算,未來如果全流程都改由AI代理執行,屆時Token的用量,將可能較現在飆升「100倍」。

隨Token用量飆升而來的鉅額帳單,正在重擊企業的錢包。如今的AI,已不再是企業可以忽略的實驗支出,而是財報上具有存在感的費用。

弔詭的是,這波AI帳單的暴增,不是因為Token變貴了;實情是,它的每單位造價成本,反而比過去便宜。

過去3年來,在科技巨頭持續投入鉅資擴大算力與Token供給量的情況下,Token每單位成本其實是一路走跌。高盛證券指出,半導體供應商在推論成本上,每年能提供超過60%的成本降幅。

真正問題在於:Token使用量的飆升速度,遠超過Token每單位成本的下跌速度。

今年初以來,從龍蝦熱潮、到超強模型Claude Mythos,在在顯示AI的能力越來越強,並且變成能執行大小任務的「AI代理人」,它能幫你讀完信箱、整理試算表,也可以幫你接下一段程式碼、自主除錯好幾個小時。

過去,人類與AI一問一答,即使再頻繁,消耗Token量也有限;但在代理人運作的情境,AI收到指令後,會自己做邏輯推理、拆解任務、查資料、規畫計畫、執行,每一個步驟,都是在「燒Token」。

高盛更預估,到了2030年,每月Token用量將會比今年大增24倍之多。

戒不掉AI,讓許多企業尋找替代方案,採用成本較低的AI模型。

然而,這個企業原本只想省錢的行為,卻意外掀開一場中美AI競爭的新戰場。

美國最大加密貨幣交易所Coinbase,近期做的幾項實驗性調整之一,就是將內部的預設模型,改為中國AI商「智譜」及「月之暗面」開發的模型。

就連微軟(Microsoft),也傳出考慮把中國AI業者深度求索(DeepSeek)的V4模型,做為旗下AI產品Copilot Cowork的低價模型選項。

但回到最根本的問題,我們究竟為什麼要用AI?

多數人的初心都是解放勞務、提升生產力。但在這個AI費用飆升的新時代,不論是轉向中國模型或是本地部署,若都只著眼於成本,恐怕會落入AI生產力受限的陷阱。

如何讓每一次Token花費創造最大價值,是企業與個人在AI時代的新顯學。想在這個新學科拿高分,關鍵就是最根本的「AI素養」。過去,不論問題難度,人們總習慣用最新、最強的模型去解題,但這種做法,就像去走路僅需三分鐘的巷口超商,卻堅持開法拉利出門一樣浪費。

就企業而言,解方也是同一套邏輯。如果員工在使用AI、燒Token之前,先釐清每項業務真正的需求,接著,再依複雜度、精準度、成本,為每項任務搭配最合適的AI模型,自然就可以用最少Token、創造最大價值。

※更多精彩報導,詳見《商業周刊》網站。
※本文由商業周刊授權刊載,未經同意禁止轉載。

延伸閱讀:

查看原始文章

更多理財相關文章

01

緯穎除權日揭曉!最晚這天買「1張變3張」 另籌逾630億元銀彈

Newtalk
02

國票金高管年薪衝破2000萬引關注!大股東一銀開第一槍促董事會檢討

anue鉅亨網
03

公司債出包1/財務爆雷 獨家專訪兆基創辦人李建成親曝「我本來要落跑」

CTWANT
04

國票金副董年薪2千萬惹議!公股股東表態了 一銀聲明:促請董事檢討薪酬合理性

太報
05

主動式 ETF 首次大考!7 月全收黑 一圖看誰抗跌、誰最傷?

Newtalk
06

寶雅「一拆十」今恢復交易!開盤即漲停、近3萬張排隊等買

Newtalk
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...