模型選最便宜的，總成本為什麼可能更高、更慢？先問這次任務需要幾分

2026-08-24

作者

江江教練

最便宜的模型，為什麼最後反而花掉最多錢？過去這一兩年，大家在比誰的模型最聰明，但對一個要付帳單的公司來說，這個比法已經過時了。現在真正在比的，是誰完成一個任務的 CP 值最高，而 CP 值包含三件事：時間、算力、金錢。假設你手上有三個模型：旗艦一次滿分但貴又慢，中階一次 80 分但便宜、可以反覆迭代到滿分，平價一次 60 分最快最便宜、但上限低、越問越走鐘。算下來你會發現一件反直覺的事：用最便宜的模型做到滿分，反而最貴也最慢；而只需要 60 分的事，動用旗艦是浪費。這篇把這筆帳算一次，再往上問一層：算力有限的時候，哪些問題值得被解決。

最近我在做一件以前不會做的事：算 AI 的 CP 值。

過去這一兩年，大家在比什麼？比誰的模型最聰明。誰的分數高、誰的榜單贏、誰又刷新了什麼紀錄。但我最近越用越清楚，這個比法已經過時了。現在真正在比的，是誰完成一個任務的 CP 值最高。而這個 CP 值包含三件事：時間、算力、金錢。

這篇在講什麼

如果每項任務都預設用最強的模型，企業的 AI 帳單可能跟著往上走；是否為主因，要用實際用量與任務資料確認。這篇用三個模型的比喻算一次帳，給一個分級用法，再往上問一層：哪些問題值得花算力解。

適合誰

同時採購了好幾個模型，團隊習慣直接開最強那個的經營者與主管
開始感覺到 API 帳單或訂閱費在往上走的營運與 IT 角色
想知道什麼任務該用哪一級模型，要訂部門使用原則的人

你會得到什麼

三個模型的成本對照，看懂便宜為什麼可能更貴
一個選模型的判斷句：先問這次需要幾分
一個更前面的問題：哪些問題值得被解決

三個模型的比喻

假設你手上有三個模型。

第一個是旗艦模型，實力 100 分。你問它一個問題，一次就給你滿分的答案。缺點是它很貴，問一次要 100 塊，而且要跑 10 分鐘。

第二個是中階模型，一次只有 80 分。但它便宜，一次才 10 塊。你可以讓它自己反覆迭代：問第二次變 90 分，第三次 95 分，問到第五次就補到 100 分了。五次加起來 50 塊，同樣是滿分，只花了旗艦一半的錢。代價是一次要跑 10 分鐘，五次就是 50 分鐘。

第三個是最便宜的模型，一次 5 塊，很快，但一次只有 60 分。聽起來 CP 值最高對吧？問題是它上限很低，而且反覆迭代容易失真，越問越走鐘。你要把它逼到 100 分，可能得問 30 次，算下來 150 塊，還要跑兩個半小時。

看出來了嗎，用最便宜的模型做到滿分，反而是最貴、也最慢的。

一張表看懂

這些數字是比喻，分數、價格與時間都是為了說明取捨而設的示例，不是任何一家模型的實際報價。公司自己的任務要換成自己的數字再算一次。

所以真正該問的從來就是「這次的任務，到底需要幾分」，「哪個模型最強」反而排在後面。要最快拿到 100 分，用旗艦，10 分鐘搞定。要最省錢拿到 100 分，用中階，讓它慢慢磨。如果這件事其實只需要 60 分，那最便宜的模型問一次就夠了，何必動用旗艦。

]

我們都快變成算力精算師

這就是為什麼我說，模型不是越聰明越好。我們這些天天在用 AI 的人，正在變成一種新的角色：算力精算師。

為什麼精算變得這麼重要？因為兩件事同時在發生。一邊是要處理的任務越來越複雜，一邊是算力越來越貴，不管用的是雲端的 API，還是本地模型要搭配的硬體，成本都在往上走。當每一次呼叫都是錢、都是時間，就不可能再無腦地「反正用最強的就對了」。你得像一個會算帳的人一樣，替每個任務挑對工具。

放到公司裡，可以把部門常見的 AI 任務先問四件事：品質門檻要幾分、能不能等、做錯的代價多大、有沒有人能覆核。答完再選模型，而不是先選模型再找任務。這組問句是我從上面那張表延伸出來的做法，分級門檻由你依自己的任務與預算訂。

但更前面的問題是：哪些問題值得被解決

我想講的其實不只是選模型這件事。

當新一代的模型真的越來越能解決問題，AI 已經被拿去做癌症早期預防這種等級的事，我覺得人該思考的問題，已經悄悄換了一層。以前我們問：AI 能不能解決這個問題？現在這個問題快要不成立了，因為答案越來越常是「能」。於是真正的問題浮上來了：哪些問題，值得被解決？哪些問題，該優先被解決？

算力是有限的，要解的問題卻多到滿出來。當你手上的資源不再是無限的聰明，而是一格一格要精算的成本，你就被迫排序。這其實跟前面那張 CP 值表是同一件事，只是放大到了決策者的層級：先想清楚「這件事，值不值得做到滿分」，再決定要不要把力氣花在「能不能做到滿分」。

會算 CP 值，是這個時代的基本功。會排序哪些問題值得解，才是真正的分水嶺。

先動的第一步

拿部門上個月的 AI 用量或帳單，挑前五項最花錢的任務，每一項問一句：它真的需要滿分嗎？需要的話，能不能等？答案可能支持維持、降級、升級，或另做一次測試，不預設一定要降級。要不要訂成部門原則，由你看那五項的答案決定。