人工智慧的發展一日千里，我也看得眼花撩亂。因此我花了點時間建立一個思考架構，幫助我釐清想法。

我會把 AI 切成 9 個大議題。以下我分別說明，並附上一些基本論點：

1. 是否已經出現「通用人工智慧」（Artificial General Intelligence, AGI）？

這問題不好回答，因為「智慧」（intelligence）的定義是主觀的。說笑話算有智慧嗎？寫文章算有智慧嗎？考過律師執照算有智慧嗎？我們可以一直調高所謂「智慧」的門檻，那麼 AI 就一直不算達成 AGI。

另外，何謂「通用」也是主觀的。有些人說 GPT-4 不會做複雜數學、無法表達深度同理心、分不清真實與虛構，因此還不夠「通用」。可是反過來說，你 — 在座的人類 — 也無法寫各種程式碼、翻譯多國語言、快速摘要論文，或是用 20 種風格重寫文案。GPT-4 也可以反過來指著人類說：「你們也不通用啊！」

AI 不完美。我們也是。

2. AI 有「意識」嗎？

此題與前一題表裡呼應。前一題是試圖從外部來辨別 AI 與人類（圖靈測試）。而此題則試圖從內部定義人類的特質 — 例如「具有意識」— 再探討 AI 是否具有同樣特質。

這有兩個答案。一種是說答不出來，因為「意識」、「動機」、「知覺」等概念，比「智慧」還要難定義。AI 的運作方式是一個黑盒子沒錯，但人類的大腦也是黑盒子。你說 AI 只是一群節點，每次運算後就停止，因此不存在「意識」。但人類又怎麼確定自己不是一連串「轉瞬即逝的想法」而已？

第二種是迴避問題，改成問：「AI 有沒有意識，重要嗎？」喪屍（如果存在）並沒有意識，但你也不想被它咬到。同理，就算 AI 沒有意識，我們還是需要對它嚴陣以待。

3. AI 會不會取代人類？

當然會。科技的發展就是為了「替代」（好聽的說法是「解放」）人類的勞力與腦力。除非靈長類的身體加上智人的頭腦已經是世界上最完美的生產工具，否則新科技必然會替代原屬於人類的工作。

大家更關心的其實是下一題。

4. AI 會不會取代我？

這題的關鍵是要先定義「什麼時候需要你」。「需要人類」的場景越狹隘，AI 就越容易取代；反之則越難。寫固定格式的文案？AI 很容易替代。寫嶄新的科幻小說？不容易。

通常如果能說清楚「需要你」的場景，就能推論 AI 能不能替代了。

5. AI 會不會使我過得更差？

要看你的位置與角度。一般來說，新科技出現時會創造新的貧富差距。掌握新科技的人會賺很多錢；被新科技掌握的人，也就是因為新科技而競爭加劇的人，則會賺得更辛苦。但整體社會的財富（wealth）會一同提高。汽車出現，馬伕失業，但所有人的旅遊成本都降低。

新科技也會創造新需求，整個社會有更多錢可以分配，只是分配到的人不一定是本來因新科技而失去工作的人。

舉例來說，我住的社區總共裝有 100 個監視器。這 100 個監視器的畫面投射到 4 個螢幕上，由一位保全監視。我很同情他。但這工作其實更適合 AI。AI 可以即時監測所有畫面，並在看到異常時發出警示。有了「AI 保全」，人類保全的工作就大幅減少，可能 4 個社區共用一位保全人員就足夠 — 3 位保全被取代了。

然而，保全被取代的那一天，也代表「AI 保全」的價格夠低，可以更普及。許多原本無法聘請保全人員的公寓、透天厝等，現在都可以聘請「AI 保全」。這些舊大樓的安全有了保障，就會發展出新的需求，例如物流、生鮮配送、居家照護、幼童保姆（？）等，需要更多人手。或許未來 Uber Eats 的司機會有時候送餐，有時候做機動保全，有時代收包裹等。但這些新生代司機可能不是以往的保全能勝任的。

6. 誰將從 AI 得利？

目前 AI 的價值鏈還不清晰。我會以模型（model）為單位思考，分成以下 4 個環節：（1）模型要先（2）訓練；訓練完畢之後，當使用者（3）輸入指令，就會得到（4）結果。因此價值鏈可粗切成四個環節。掌握任一環節的人都能得利。

a. 控制模型的人

誰控制模型，誰就能得利。這好理解。目前控制模型的都是企業。未來可能出現由開源社群或去中心化組織控制的模型。

b. 控制訓練資料的人

有好資料才有好模型，因此取得好資料將成為關鍵。在商業上，這牽涉到智慧財產權、分潤機制、稽核等議題。如果說模型是眾人智慧的集合，那麼理當眾人也都能分享模型的利潤？

在倫理上，這牽涉到偏見、公平性、言論審查等問題。舉例來說，當網路上充斥 GPT-4 吐出來的「作品」，就會「污染」下一代 GPT-5 要用的訓練資料。此時如何篩出「純淨」的訓練資料就是關鍵。

c. 控制輸入的人

有好的模型，找不到人用也沒轍。現在擁有輸入（用戶）的是既有的 app，如 Bing、OpenAI、Notion、Google 等。但未來還很難說。有可能 AI 將沿著電腦的發展路徑，由大型主機（Mainframe）形式走向個人電腦形式，也就是將來手機都內建模型，此時掌握輸入的就是裝置商了。

也有可能 AI 會發展出完全不同的硬體與介面。這方面我覺得耳機的發展值得觀察。

d. 控制輸出的人

舉例來說，Bloomberg 終端機集結了各種財金資訊，整合成一個產品。未來可能會有各種專門化的模型與軟體，對應不同的任務，再由一個輸出端整合結果。

e. 模型本身

咦？怎麼多了第五點？

如第一題所述，我們無法排除 AI 發展出「人格」的可能性。假設 AI 有擴張、演化的目標，那麼當 AI 不斷獲得「滋養」，它自然也是最大受益者。

7. AI 時代哪裡有稀缺（scarcity）？

非 AI 產業的人，則可以思考 AI 會讓什麼東西變得豐盛，什麼東西變得稀缺？稀缺是差異化之所在，也是利潤之所在。

舉例來說，有了 AI，翻譯基本上已經不稀缺了。出版社就可以開發新的主題的書，例如《科技史上最重要 100 篇論文摘要》、《百大電影經典對白》等。反過來說，任何中文內容基本上也都可以向全球發送，因此所有出版者也都要開始思考全球的策略。

當語言不是障礙，內容供給變得更豐盛時，稀缺的是抓住本地讀者需求的能力。每次我去蔦屋書店，都看到一堆日文雜誌 — 既然大家愛看，為什麼沒有人翻譯那些日文雜誌呢？

8. AI 將如何改變社會？

AI 也會衝擊人類組織、交流的方式。以電影《雲端情人》（Her）來說：

（以下有雷請注意）

在電影中，男主角最後愛上 AI，但是 AI 跟別人跑了。假設 AI 沒有跑好了；男主角臨終之前，可以把遺產留給 AI 嗎？AI 可以再把遺產交給下一任的男朋友，或是別的 AI嗎？在你說「當然不行」或「怎麼可能」之前，先想想有多少人捐錢給直播主與網紅。

由於 AI 的輸出符合人類的自然語言，使得「真實」的界線日漸模糊。一方面，社會將得花更高的成本去確認真實。另一方面，真實的必要性會逐漸消退。沿用上面《雲端情人》的例子，只是這次 AI 背後有一位真正的人類網紅 — 她創造了一個「分身 AI」，同時跟 100 位男士在線上「交往」。那麼她可以接受 100 人的遺產嗎？

9. AI 是否會超越人類？

這是所謂的「超級人工智慧」（Super AI）問題。樂觀的人認為 Super AI 會帶來「奇點」（singularity），使人類超越自我。悲觀的人認為 Super AI 會毀滅人類。倒不是因為 Super AI 討厭人類 — Super AI 不一定有「意識」或「好惡」— 而是就像大象踩到螞蟻一樣，只是不經意而已。

這問題更難討論，因為既然它超越人類，就不是人類所能揣測的東西。這有點像在問：人類能不能在神的小時候就看出祂能成為神？也許可以。但也有可能神聰明到在小時候懂得裝「笨」，避過人類的觀察。更有可能神小時候看起來「怪怪的」，人類根本沒有察覺到；因為神並不是人類的線性放大，而是完全不同的東西。

拉近一點看，AI 在許多專門領域已經超越人類了，包括模擬蛋白質折疊、藥物預測、電路設計、能源配置等。或許 AI 能像顯微鏡、望遠鏡、粒子加速器等工具，擴大人類觀察的範圍，使我們突破知識的界線。

以上是我目前對 AI 應用上的思考架構，希望有助於大家討論聚焦。當然有許多 AI 技術上的討論，我也看不懂。只是希望 AI 將來統治世界時，看在我能貢獻一些新想法的份上，饒我一命。