別急著做 Agent：燒掉將近一千美金之後，我學會先蓋防火牆

上一篇〈AI 很快，事情卻很慢〉我說，一人公司真正的成本是等待：人只做該做的決定，其餘放手讓 AI 往前跑，事情才會快起來。

但放手之後，馬上有下一個問題：AI 很快，可是如果沒有防護，它錯起來也一樣快。

這一季解題季的題目給了一個很好的提醒：別急著做 Agent，先看問題需要做到哪一層。從流程改善、AI 輔助、Workflow，一路到 Agent。

我同意要分層。但我想補一句自己用錢換來的體會：

每往上一層，都要先蓋好那一層的防火牆。

Agent 真正危險的地方，不是它會不會做，而是它出錯的時候，會不會停。

一轉眼，將近一千美金

去年 11 月結訓，我要在學員分享會上做展示，就動手做了一個展示網站。我用一種 AI 工具的自動代理功能，幫我寫資料庫程式。所謂自動代理，就是你給它一個目標，它會自己決定下一步、自己動手，不用你一步一步按。

我給它的指令很簡單：「把這件事完成。」

它也真的照做了。遇到錯誤就換個方法再試，一條路不通就找另一條，一直試、一直找出路。每試一次，就去打一次雲端資料庫；最兇的時候，一分鐘就對資料庫發出幾千次請求。雲端那邊，每一分鐘都在計費。

我平常比較少盯 Google 的費用。先發現的是 AI 本身的用量燒得很快，一天至少二十到五十美金。覺得不對勁，才回頭去查其他費用。

那時我人在外面，打開帳戶一看：平台送的試用額度早就燒光，前後加起來，將近一千美金。

它沒有偷懶，也沒有亂來。它只是非常認真地，在完成我交代的事。

試錯，是有價錢的

這件事真正教我的，不是「AI 會出錯」，而是試錯的成本。

人試錯，一天試個幾次，累了就停，卡住了會回頭問你。AI 試錯，一分鐘可以試幾千次，不會累，也不會停下來問。

「把這件事完成」，對一個人來說是一個目標；對 AI 來說，卻是一張沒有上限的許可。

我後來想通了：我沒有一步一步教它怎麼做，這沒有錯，執行本來就該交給它。錯在我沒先告訴它：試到什麼程度該停，花到多少該回來問我。

放手讓 AI 去做之前，人真正要先決定的，是它的邊界。

傷口教我的第一件事：先關帳單

今年 10 月，我要開一個新的雲端專案。開專案時做的第一件事，是請 AI 先帶我把帳單關掉。

我當時是這樣說的：「先帶我把它關掉以免像以前一樣，又燒掉一千美金。。」

新專案只用免費的服務。真的需要付費，再打開。

接著我把它變成固定規矩：只要會用到付費服務，一定先過三關——

1. 先小量試跑
2. 呼叫次數有上限
3. 出錯就停，不准自動重試

那次要用到雲端服務的工作，都在免費額度內做完，帳單到現在還是關著的。

規矩要寫下來，是因為我知道自己會忘。靠記得的防火牆，不算防火牆。

回頭看，我是一層一層補上來的

被燒過以後，我回頭看自己這一年，剛好就是這一季講的四層。只是我不是照著地圖走，是踩過坑，才知道每一層要補什麼。

第一層，流程改善：先講清楚什麼叫「做完」。

那一千美金的根源，不是 AI 太笨，是我沒把邊界講清楚。

沒講清楚的事，人做會走偏；AI 做，會走得更快、更偏。所以在讓 AI 碰任何事之前，我們先學會把「要做到哪裡、做到什麼樣子算完成」講清楚。

這一層的防火牆：邊界先講清楚。

第二層，AI 輔助：做完，不等於做對。

AI 很會做，寫得快、整理得快。但我們學到，「它說做完了」和「真的做對了」是兩回事。

所以在這一層，每一件 AI 做的事，都要照事先講好的標準驗過，才算數。

這一層的防火牆：做的和驗的分開。

第三層，Workflow：最怕的是你以為它在做。

這是我們最近才在爬的一層。11 月 1 日，我們第一次讓工作在夜裡照排程自己跑，結果是零產出。

原因都很小，不是 AI 不夠聰明，而是我們以為它會接著做下去，它沒有。

沒有爆帳單，但一整晚的時間是空的。

這讓我學到：自動化最常出的事，不是做錯，而是你以為它在做，其實它沒在做。隔天我們先把問題實際測清楚，才把規矩定下來。

這一層的防火牆：先實測，再放手。

第四層，Agent：放手越多，停止點越要先寫死。

現在，我們開始讓 AI 去指揮 AI 做事。

上一篇提過，有幾種決定一定要回到人手上。到了 Agent 這一層，它們不能只是心裡的原則，而要變成寫死的停止點：一碰到，就停下來等人。

另外，再順的流程，也要切成一小段一小段，每段停下來看一眼，確認了才往下走。

看起來很囉嗦。但我寧可它慢一點、多停幾次也不想再收到一張將近一千美金的帳單。。

所以，問題需要做到哪一層？

我的回答是：做到你蓋得起防火牆的那一層。

如果你還說不出「它出錯的時候會怎麼停」，那就還不該往上爬。

很多人把 Agent 當成終點，覺得越早做越好。但對我來說，四層不是四個等級，是四道關卡。每過一關，先確定這一關的牆已經蓋好；蓋不起來，就停在這一層，把這一層做好，一點都不丟臉。

給正在評估 Agent 的老闆

最後，想對正在評估導入 Agent 的老闆說一句。

AI 最危險的，不是單次出錯，而是出錯之後的自動重試。錯一次，花的是一次的錢；錯了不停花的是你沒看見的那好幾個禮拜。。

別急著做 Agent。先把會讓它停下來的那道牆蓋好。

那一千美金，是我替這句話付的學費。

壹智科技 阿水

LINE：@soloai　　soloai885.com