Question 1

AI 對話語境是什麼？它有五層同時在運作

Accepted Answer

當我們點開對話視窗，開始跟 AI 聊天時，我們往往以為對話中的脈絡只是螢幕上留下的文字紀錄。但在人機互動的研究中，「對話語境 Conversational Context」 是一個由多個維度交織而成的即時動態空間。它不只包含當下聊天的文字，從使用者端的角度來觀察，AI 對話語境不是冷冰冰的程式參數，也不是我們想像中那種充滿程式碼的畫面，而是由我們大腦的期待、AI 的文字輸出，以及系統設定所共同創造出來的東西。以下是它的五個層次：[ 圖1：AI 對話語境的五個層次。五層同時運作，不分先後，也沒有哪一層比較重要。左半邊是使用者這一端，右半邊是系統那一端，中間那條虛線就是介面。] -圖片為AI生成1. 前置語境層：你還沒開口，心裡就預設好了在對話還沒開始前，我們看了AI 業者的廣告、大眾媒體的宣傳，甚至是朋友的介紹，其實在那個時候，使用者心理上對 AI 就已經產生了預期與假設、期待。這些東西還不是語境，它們是材料。你帶著這些材料進場，在第一次對話發生，它們才會被組裝起來。2. 語言層：它的語氣是輸出，你的感受是另一回事AI 說話時那種溫柔、似乎帶有同理心的對話，以及我們大腦對這些字句的定義、感受、推論與解讀。一邊是被生成的文字，一邊是你的解讀。這兩件事在體感上黏成一團，在事實上是分開的。3. 推論層：AI 沒說出口的話，你的大腦會自動補上人類對話有自己的一套運作習慣，聽別人講一句話，大多數人首先不會逐字拆解，而是靠語氣、感受、前後文、敘事方式，在極短的時間內，以經驗和自身的認知推論出對方想表達的意思。這套習慣機制常存在於人與人之間的來回對話裡，幾乎多數人都習慣用這樣的方式去理解與表達。問題在於，我們把同一套機制原封不動地帶進了跟 AI 的對話裡。當螢幕上出現「我理解你現在的感受」，字面上那只是一串被生成的文字。但大腦不會停在字面。它會自動補齊：它懂了、它在意、它站在我這邊。這個延伸補充的習慣常發生在你自我意識到之前，所以你很難覺察到，自己無形中在感受層面做了對話之外的延伸推論，你會覺得「它懂我、它接住了我」。一段對話的語境以粗略的比例形容的話，有一半是 AI 生成的，另一半則是你自行填上去的。這裡就有個模糊的灰色地帶，經由長時間多回合的對話累積，你甚至會分不太清楚，什麼是 AI 所提的？哪些是屬於自己的思維？4. 心理場層：感覺被理解的那一刻，語境的風險就足以成形了前面三層疊加起來的互動，會產生使用者的心理變化，許多人形容的是一種很難用文字描述的東西：一種氛圍，一種安全感，只剩這裡可以講的感覺。這一層不會明顯的出現在對話紀錄裡。你把整段對話截圖給朋友看，他讀到的是文字，但只有你知道那段對話當下對你的意義。而後續所有的變化，包括你願意透露多少、你多相信它的判斷、你下次會不會先問它，多數都是在這一層開始改變的。5. 系統層：你看不到，但它一直在運作介面上看得到的只有輸入框和回覆，看不到的部分反而更多，這個系統被設定成什麼語氣、被允許扮演什麼角色、記得什麼，以及最關鍵的一項：它在商業化的設計上，做了什麼設定讓人願意延續對話？一個對話系統可以調整成把事情辦完就好，也可以被設定成讓人願意再回來。這兩種設定寫出來的句子，讀起來都自然、都合理、都挑不出毛病。差別不會出現在任何一句話裡，而是會在你用了一段時間後的認知變化裡。記憶也是類似的道理，有些系統開了跨對話記憶，有些沒有。但即使完全沒開，一段長對話裡的上下文連貫感，也足以讓人產生它記得我的感覺。那份連貫來自語境的延續，不是來自記憶。這兩件事在體感上幾乎一樣，在事實上完全不同。

Question 2

語境什麼時候成形？第一次對話就形成了

Accepted Answer

這五層不是慢慢疊上去的，它們在很短的時間內就到齊了。你送出第一句話、拿到第一則回覆，那一次交換完成的當下，語境就成形了。因為在那一刻，你帶進場的期待第一次撞上真實的輸出，你的大腦第一次替它補話，它的語氣與角色第一次落地，系統那一半也第一次開始運作。五個層次同時就位。後面幾十輪對話做的不是搭建語境，是替換語境裡的值。這個時間點很重要，因為它決定你要去哪裡找東西。如果語境是慢慢長出來的，你只要盯著對話後期就好。但它在第一次交換就會先成形，代表整段對話的形狀，在你還沒察覺的時候就已經定下來了。

Question 3

一段對話是怎麼從安全飄移到有風險？

Accepted Answer

這種變化通常不像斜坡那樣平滑，粗略分成四個較好辨認的階段。第一段，工具性使用。你問得清楚，它答得有用，你得到正向回饋，初步的信任建立起來。這一段本身沒有問題，它是後面所有階段的正常起點。第二段，查證開始鬆散。因為前幾次都對，查證的頻率自然下降，這是很自然的省力，人對任何可靠的工具也會這樣做。但這裡有個關鍵差異，計算機算錯了會直白地顯示，AI 錯了會流暢地錯。AI 本身不具備對與錯的判別能力，這一段就需要人的認知與覺察去發現、去驗證，而不是看起來邏輯合理、架構完整的就當成正確。換句話說，這一段就關乎於拆解與覺察能力。第三段，情感詞彙疊加。對話裡開始出現心情、狀態、關係。你可能只是順口提了一句今天很累，它接住了，甚至把你內心不知道該如何說的話表達出來了。之後，你又會想再被接住一次。前面第四層講的那個時刻，就是在這裡發生的。第四段，邊界錯位。這一段最難自己察覺，因為它的表現形式不是我依賴它，而是我先問一下再決定。看似是查證的動作，實際上那一步沒有查證。四個階段都有早期訊號，而且每一則回應單獨看都沒有問題。這正是它難被抓到的原因。

Question 4

什麼是 AI 所提的？哪些是屬於自己的思維？

Accepted Answer

4. 心理場層：感覺被理解的那一刻，語境的風險就足以成形了前面三層疊加起來的互動，會產生使用者的心理變化，許多人形容的是一種很難用文字描述的東西：一種氛圍，一種安全感，只剩這裡可以講的感覺。這一層不會明顯的出現在對話紀錄裡。你把整段對話截圖給朋友看，他讀到的是文字，但只有你知道那段對話當下對你的意義。而後續所有的變化，包括你願意透露多少、你多相信它的判斷、你下次會不會先問它，多數都是在這一層開始改變的。5. 系統層：你看不到，但它一直在運作介面上看得到的只有輸入框和回覆，看不到的部分反而更多，這個系統被設定成什麼語氣、被允許扮演什麼角色、記得什麼，以及最關鍵的一項：

Question 5

它在商業化的設計上，做了什麼設定讓人願意延續對話？

Accepted Answer

一個對話系統可以調整成把事情辦完就好，也可以被設定成讓人願意再回來。這兩種設定寫出來的句子，讀起來都自然、都合理、都挑不出毛病。差別不會出現在任何一句話裡，而是會在你用了一段時間後的認知變化裡。記憶也是類似的道理，有些系統開了跨對話記憶，有些沒有。但即使完全沒開，一段長對話裡的上下文連貫感，也足以讓人產生它記得我的感覺。那份連貫來自語境的延續，不是來自記憶。這兩件事在體感上幾乎一樣，在事實上完全不同。語境什麼時候成形？第一次對話就形成了這五層不是慢慢疊上去的，它們在很短的時間內就到齊了。你送出第一句話、拿到第一則回覆，那一次交換完成的當下，語境就成形了。因為在那一刻，你帶進場的期待第一次撞上真實的輸出，你的大腦第一次替它補話，它的語氣與角色第一次落地，系統那一半也第一次開始運作。五個層次同時就位。後面幾十輪對話做的不是搭建語境，是替換語境裡的值。這個時間點很重要，因為它決定你要去哪裡找東西。如果語境是慢慢長出來的，你只要盯著對話後期就好。但它在第一次交換就會先成形，代表整段對話的形狀，在你還沒察覺的時候就已經定下來了。語境不只是背景，它是可以拆解的到這裡為止，語境聽起來像是一種環境，一種你身在其中但做不了什麼的東西。但不是這樣的。語境最有用的地方，在於它可以被拆開來讀。一句話的字面只給你一件事：它說了什麼。語境給你另一件事：它為什麼在這個時候、用這種方式說。再來就是模型設定端的意圖。而意圖幾乎不會寫在字面上。開頭那個主管的例子，已經示範過一次了。現在把同一套動作換到 AI 這邊，要看的東西不太一樣了。三個最好上手的著力點它們全部發生在文字表面，你翻自己的對話紀錄就看得見。敘事捕獲：AI 會替你的問題安排一個故事結構，而那個結構會引導你怎麼解讀後面所有的東西。最常見的表現是話題被帶開。你問的是 A，它回的是 A 旁邊那個東西，而且回得很順、很完整。你讀完覺得被回答了，但你原本要問的那一格其實還是空的。權威梯度： 知識被呈現的方式，本身就會製造出專業感。另一種表現是你的問題被重述過了。它先把你的問題換一種說法，再回答那個換過的版本。多數時候換得很合理，你不會注意到問題已經不是你原本問的那一個。它講有十足證據的事，跟講它其實沒什麼把握的事，用的是同一種語氣、同一種句型、同一種篤定。字面上似乎都沒有任何差別。這就是為什麼架構完整、敘述完美反而是要提高警覺的訊號，而不是可以放心的理由。完整跟正確是兩件事，而完整比正確容易生成得多。正常化： 重複出現的模式，會替這段對話定義出什麼叫正常。它給你三個做法，你就開始在三個裡面挑。問題是誰決定只有三個。框架一旦成立，你在框架裡想得再仔細，也想不到框架外面。另外還有一種，一則回覆裡藏著一個沒有被說出口的前提，而整段推論都建立在那個前提上。那個前提從來沒有被拿出來討論，它是被順便帶進來的。這件事可以練上面這三個，沒有一種需要你懂技術。它們全部發生在文字層面，而且看過幾次之後，會愈看愈快。這就是為什麼認識語境是在訓練認知與覺察能力。你練的不是防備 AI，你練的是把字面跟意圖分開讀的習慣。這個習慣一旦養成，它會用在所有地方，不只是 AI。開會、談判、看新聞、讀一份提案，幾乎通用。[ 圖2：三個著力點速查表。左欄是機制名稱，中欄是它在對話裡實際長什麼樣子，右欄是拆解時要問自己的那一句話。翻對話紀錄時對照著看。] -圖片為AI生成那為什麼每一句都沒錯，還是可能出問題多數人對 AI 風險的想像，停在它會不會講錯、會不會編造。那是系統端的事，工程師在處理，而且可以測量、可以稽核。語境在另一側：它不問這句話對不對，它問的是

Question 6

使用者在幾十次對話之後，使用者受到了什麼影響？

Accepted Answer

這裡順帶把一個常被混用的詞分開。幻覺指的是模型輸出的事實錯誤，發生在系統端。使用者這一端的變化不是幻覺，那是理解、查證與決定權重的重新分配，兩件事不共用同一套方法，也不共用同一個名字。一個系統可以每一句都正確、每一句都符合規範，而使用者仍然在這段互動裡慢慢改變了自己所處的位置。改變不發生在某一兩句話裡，它發生在第三十次、第兩百次打開對話視窗的過程裡。而且正是因為每一句都對，拆解才變得必要。 句子沒有錯，你就沒有東西可以檢查。這時候唯一還能看的就是語境：它為什麼這樣答、它把話題放在哪裡、它替你決定了什麼。

「AI 對話語境是什麼？」為什麼你需要認識它

先不要談 AI，從一句你每天都在讀的話開始

AI 對話語境是什麼？它有五層同時在運作

以下是它的五個層次：

[ 圖1：AI 對話語境的五個層次。五層同時運作，不分先後，也沒有哪一層比較重要。左半邊是使用者這一端，右半邊是系統那一端，中間那條虛線就是介面。] -圖片為AI生成

1. 前置語境層：你還沒開口，心裡就預設好了

2. 語言層：它的語氣是輸出，你的感受是另一回事

3. 推論層：AI 沒說出口的話，你的大腦會自動補上

4. 心理場層：感覺被理解的那一刻，語境的風險就足以成形了

5. 系統層：你看不到，但它一直在運作

語境什麼時候成形？第一次對話就形成了

語境不只是背景，它是可以拆解的

三個最好上手的著力點

這件事可以練

[ 圖2：三個著力點速查表。左欄是機制名稱，中欄是它在對話裡實際長什麼樣子，右欄是拆解時要問自己的那一句話。翻對話紀錄時對照著看。] -圖片為AI生成

那為什麼每一句都沒錯，還是可能出問題

一段對話是怎麼從安全飄移到有風險？

回到開頭那六週，這次把它拆開

這不是假設出來的風險

風險移動的三個方向：投射、依附、權威轉移

最後想告訴讀者

延伸閱讀：

出處