【AI Together 優選文章】大型語言模型 LLM 有意識嗎？

LLM 有意識嗎？

生成式 AI 越來越普及，也常常有人問：

「ChatGPT （或其他語言模型）會不會其實有意識？」

畢竟它能聊天、能寫文章、能回答問題，甚至有時候還會安慰人。

當它表現得越來越像人，我們就越容易產生一種感覺：

「它是不是正在思考？」

但要回答這個問題，我們得先理解一件事：

大型語言模型（Large Language Model，LLM）到底在做什麼？

先從一句話開始

假設我現在寫下這句話：

今天天氣真＿＿＿

你大概很自然會想到：

* 好

* 熱

* 不錯

人類的大腦會根據經驗去猜下一個字。

而 LLM 做的事情其實也很類似，

它會根據前面的內容，計算下一個最有可能出現的是什麼

然後再根據目前的內容，繼續預測下一個，就這樣一直往下接。

因此從技術角度來看，LLM 最核心的工作其實只有一句話：

預測下一個 Token。（Token 不一定是一個字。）

很多人以為 AI 是逐字思考，其實不是。

在 LLM 的世界裡，文字會先被切成 Token。

例如：

I love Taiwan

可能被切成：

* I

* love

* Taiwan

而中文：

我愛台灣

則可能被切成：

* 我

* 愛

* 台

* 灣

也可能被切成：

* 我

* 愛

* 台灣

不同模型的切法不一定相同。

重點是，LLM 並不是直接理解文字，它看到的是一串 Token

接下來更有趣了，

對電腦而言，Token 甚至不是文字。

每個 Token 都會對應一個編號。

例如：

* 我 → 1523

* 愛 → 874

* 台灣 → 29481

當句子進入模型之後，模型其實看到的是：

1523、874、29481

而不是「我愛台灣」這四個字。

換句話說，LLM 並不知道什麼是台灣。

它只知道 某個數字經常跟另一個數字一起出現。

那 AI 是怎麼回答問題的？

假設你輸入：

台灣最高的山是？

模型會把整段文字轉換成 Token

接著經過大量的矩陣運算加減乘除（還有一個激發函數，不過在這邊不是重點）。

最後得到一個結果，

下一個 Token 最有可能是：

* 玉山：85%

* 阿里山：3%

* 雪山：2%

* 其他：10%

於是模型選擇「玉山」。

接著再繼續計算下一個 Token。

就這樣一步一步把整段回答生成出來。

從頭到尾，它都沒有查字典，也沒有翻百科全書，更沒有突然理解了什麼。

它只是持續在做：

根據前面的 Token，預測下一個 Token。

那麼，它真的理解自己在說什麼嗎？

這也是最有趣的地方。

當我們看到一句流暢的回答時，很容易覺得背後一定有一個正在思考的心智。

但從工程角度來看，我們看到的其實是一個極其龐大的機率模型。

它透過數兆次訓練，學會了哪些 Token 常常一起出現，於是產生出看起來很像理解的結果。

至於這樣算不算理解？

算不算思考？

甚至算不算意識？

這其實已經不是工程問題，而是哲學問題了。

所以 LLM 有意識嗎？

有一件事情是確定的：

現在的大型語言模型，本質上仍然是在進行數學運算。

1. 文字被切成 Token
2. Token 被轉換成數字。
3. 數字經過大量加減乘除與矩陣運算。
4. 最後得到下一個最可能出現的 Token。

然後重複這個過程。

所以現在的 LLM，本質上都只是在做各種加減乘除的計算。

你覺得，一連串計算的結果，等於有意識嗎？

留言告訴我，你的看法。