AI Agent愈用愈貴？微軟最新觀點：「Skill模組化」破解Token暴增痛點

AI Agent走進企業後，成本焦慮也開始浮現。

不少企業原本期待透過AI Agent提升工作效率，卻發現隨著Agent執行的任務複雜度上升、對話輪數增多，Token消耗也跟著大幅增加。更值得注意的是，提供給AI的資訊並非愈多愈好，當大量無關內容同時被塞進上下文，反而可能讓Agent難以找到真正重要的資訊，答案因此更不精準。

微軟Microsoft在近期發表的《AI Agent optimization: How context engineering lowers AI costs》一文中指出：要解決AI成本與精準度痛點的關鍵，不在於選擇更便宜的模型，而在於管理每一輪對話中究竟有哪些資訊真正需要進入模型的上下文（Context），微軟將這套方法稱為「上下文工程（Context Engineering）」。

為何讓AI讀愈多 反而可能更貴、更不準？ 

文中指出，大型語言模型（LLM）本身並不具備持續性的記憶。對AI Agent而言，每一輪執行任務時，模型能看到的內容，都來自當下提供的上下文，包括指令、可用工具、檢索到的文件以及對話歷史；一輪結束後，下一輪若還需要這些資訊，就必須再次將資訊打包送入模型。

對只回答一、兩個問題的聊天機器人而言，這種成本或許有限，但對需要經過多輪推理、持續調用工具才能完成工作的AI Agent來說，卻會衍生出企業最擔憂的兩大痛點：

• Token成本重複計費：若AI Agent完成一項工作需要經過多個回合推演，而每一回合都攜帶大量文件、工具描述與歷史對話，那麼不必要的內容就會一再進入上下文，重複產生成本。
• 資訊過多的品質降級：當餵入過多資料時，AI Agent容易產生「Lost in the Middle」現象：即在混亂的內容與工具選單中，反而挑錯工具或找不到關鍵資訊。而每一次犯錯，就意味著需要額外多跑幾輪對話來修正，帶來更多重複的Token費用。形成「成本增加、品質卻可能更糟」的循環。

微軟特別在文中指出，這正是為什麼「不精準」會直接與「高昂成本」劃上等號。過去降低成本往往要犧牲品質，例如換成便宜但聰明度較低的模型，但上下文工程卻能在不犧牲品質的前提下，顯著降低成本，因為它只讓AI在適當的時間讀取準確的資料。

AI Agent導入後的成本已成為企業關注重點。（圖／Freepik）

優化AI成本的關鍵：上下文工程（Context Engineering）

所謂上下文工程，核心在於「精準控制資訊流」：不是讓AI什麼都知道，而是決定好在每一個工作回合裡，AI究竟需要知道什麼、可以使用什麼，以及哪些資訊根本不必放進來。

微軟透過四個關鍵機制，讓AI Agent僅在需要時讀取必要的資訊，從根本上解決Token爆表與回應偏差的痛點。

1. 精準知識檢索（Grounding / Knowledge）

不將數百頁的原始文件或企業規章全數塞入AI的Prompt，而是透過知識庫連接企業資料、進行文本拆解、搜尋與語意重排，僅提取與當前任務高度相關的關鍵段落與引文。在微軟的測試中，這種精準檢索機制可使知識提取的Token成本降低約34%。

2. 動態工具搜尋（Tool Search）

當企業內部有幾百個工具與系統API可以讓AI Agent調用時，過往是把所有工具的使用說明書、調用方式等通通塞給AI，如今微軟改採「工具搜尋Tool Search」機制，讓AI Agent在收到需要計算財務或查詢庫存等任務時，才載入特定工具。實測中發現，這項技術約可降低高達97%的輸入Token消耗。

3. 結構化記憶機制（Memory）

AI 無法像人類一樣自然記住所有事，但若每次對話時AI都要重新讀完過去的所有聊天紀錄，成本會極高。因此微軟將記憶整理成「當前對話重點」、「使用者偏好」與「標準程序記憶」三大類。AI Agent無需在每次對話時重新讀取漫長的歷史紀錄，而能動態提取結構化精華，既維持跨任務運作的連續性脈絡，又能精準掌控成本。

4. 可重複使用的「技能」（Skills）

這是最有價值的商業創新之一。過去開發者會把工作規則以長篇大論的形式寫入Prompt裡，但只要公司流程或規範變更，就得重新修改訓練所有AI Agent的執行依據。有鑑於此，微軟提出將企業的SOP模組化，打包成獨立的「Skills」。

日常運作時，AI Agent只需知道自己擁有的「Skill名稱與簡介」，當觸發相關任務時，再即時載入所需Skill的細部SOP執行。當公司的規範或SOP有所調整時，管理者只需在中央庫更新這個Skill模組，全公司所有AI Agent就會自動學會新規則，省去大量的重新開發成本。

透過打造Skill模組，可大幅降低AI開發成本。（圖／Freepik）

鼎新Agent Space　打造企業專屬的Skills運算生態

企業在推動AI智慧轉型的實務場景中，真正的痛點往往就在於「如何將幾十年累積的產業Know-how與ERP、CRM等複雜營運系統，轉化為AI聽得懂、用得好的資料基底。」而鼎新Agent Space的發展架構正與微軟提出的架構遙相呼應：

1. 技能模組化：賦予企業快速打造與封裝專屬Skill的能力，無論是複雜的「單據自動檢核SOP」、「供應鏈異常排查流程」還是「財務自動對帳」，企業都能將這些經驗抽離封裝為獨立的Skill模組。

2. 精準調度與上下文控制：透過與微軟上下文工程類似的理念，Agent Space讓企業AI Agent在執行任務時，僅在必要時刻載入特定的Skill與資料庫內容，避免巨量資料洗版，直接解決企業最頭痛的Token浪費與資訊錯誤風險。

3. 技能自主進化與經驗沉澱：當企業透過Agent Space開發出愈多接近個人習慣的Skill，AI Agent就愈能像熟練的資深員工精準運作。使用者只要透過每次的任務過程優化AI Agent的Skill，就能以最低成本、最高精準度，實現真正的企業AI自主化運營。

從盲目砸錢到精細營運 邁向企業AI的高ROI時代

微軟的《AI Agent optimization》文章揭示了一個重要意義：即在AI Agent 時代，比模型能力更重要的，是企業對上下文（Context）的掌控力。

透過精準檢索、工具搜尋、記憶機制與可重複使用的Skills，企業不再需要為多餘的Token 買單，還能大幅提升AI Agent的準確率。微軟也強調，當企業能讓知識、工具、工作方法與記憶隨使用過程持續改善，AI Agent就有機會在不重新打造的情況下，變得更有效率、更具能力。

透過Agent Space這類兼具技能打造與流程調度的平台，企業也將能以最具效益的形式，真正享受到AI Agent帶來的數位生產力革命。