十年前，他警告AI可能帶來末日。今天，他卻說全面失業才是最好的未來。Nick Bostrom，這位大腦永遠超前時代的哲學家又回來了。
這位影響AI與科技發展甚巨的哲學家，最近在接受英國媒體《The Standard》採訪時，談到「工作被AI取代」的議題。萬萬沒想到，這位十多年前以一本《超智慧》（Superintelligence），為人類未來提出百般警示的Nick Bostrom，竟在人工智慧真的改變社會的現在，變成了一位樂觀主義者，甚至說出：「AI奪走我們的工作，其實是最不用擔心的事。」Nick Bostrom何以有180度的態度轉向呢？
攝影師：「來一個想很多的表情！」（來源：The Standard）
邁向超智慧的4個風險
先來交代幾個重要的時間點。回到2003年，Nick Bostrom提出「模擬假說」（Simulation Hypothesis），以一篇〈你活在電腦模擬裡嗎？〉論文，進行一場極為精彩的思想實驗。談的不是玄之又玄的量子物理，而是完全憑藉邏輯，列出以下三者可能，必定有一項為真：
（1）任何高等智慧生命都會在研發出電腦模擬技術之前滅絕；
（2）任何擁有電腦模擬技術的高等智慧生命都對使用這項技術沒有興趣；
（3）我們很有可能活在某一個高等智慧生命的電腦模擬裡。
第一點和第二點，都太過絕對，很難排除例外的可能，這也使「我們活在電腦模擬裡」變得相對有可能。今天，從五歲能抬頭的老高聽眾，到Elon Musk等科技巨頭都經常說出「世界是虛擬的」這個說法，也與Nick Bostrom這篇論文很有關係。
2014年，Nick Bostrom出版《超智慧》，他把「AI終將超越人類」作為前提，展開人類生存危機的論述。這本書，對於矽谷和今天的AI發展造成重大的影響，不僅Elon Musk和Bill Gates等人都推薦過，自ChatGPT發表以來，已持續3年的AI熱潮，依然逐步應證著《超智慧》之中的核心討論——AI會不會不小心滅絕人類？某種程度上，「AI末世論」的論述基礎也來自於此。
依照現今飛速的AI進展，Nick Bostrom認為達到通用人工智慧是遲早的事。老樣子，他提出警告，認為超智慧之路會有四大風險——對齊（alignment）、治理（governance）、數位心靈（digital minds），以及超智慧衝突（superintelligence conflicts）。
經典的「對齊」思想實驗，便是他在《超智慧》提出的「迴紋針最大化」（Paperclip Maximizer）。假設我們給AI的指令是「盡可能生產最多的迴紋針」，它可能會消耗地球的所有資源，甚至連人類都被轉化成可以製造迴紋針的原料。聽起來雖然荒謬，但AI確實可能在執行目標的過程，無意間導致人類的滅絕。
而「治理」在《超智慧》也有許多討論。看看今天，中國開源模型DeepSeek對美國造成的衝擊，美國因而對應的星際之門計劃、AI曼哈頓計劃，都不難看出AI競爭已上升到主權層次。要如何達成有效的外交協議，確保人類將AI用於益處，而不是彼此開戰、互相壓迫，這正是另一個超智慧道路的風險。
後兩者「數位心靈」和「超智慧衝突」，則代表著Nick Bostrom更遠的未來預測。
2023年，Nick Bostrom在接受《紐約時報》採訪時，就曾提過AI這種「數位心靈」和人類的兩點差異——「死亡」，數位心靈不會死，可以隨時暫停、隨時重啟；以及「個體性」，數位心靈可以是完全相同的複製品，不像人類，每個人都是獨立的個體。
雖然現在不流行DEI，但還是記得對AI好一點。（來源：Star Wars）
我們究竟如何和超智慧這樣的數位心靈相處？需要像「法人」，賦予它們某些權益嗎？要把「它們」改成「他們」嗎？罵clanker（迪士尼翻成「鐵皮軍」，《星際大戰》裡對機器人的貶抑稱呼）時，會不會受到法律的制裁呢？
「超智慧衝突」就是新玩意兒了。Nick Bostrom的最新假設是：外星文明可能會帶著他們的超智慧出現。「如果這些存在真的存在，那麼當我們創造自己的超智慧時，一個重要的條件，就是要確保它能與其他超智慧相處。」我想，終有一天，我們終於能盼到銀河系的大家（的AI）了，真正破解費米悖論。話說，那時語言學家或許不必這麼累（可能先失業了），比起動物對動物的交流，超智慧之間肯定溝通更無礙吧。（咦，《三體》不就在講這個？）
全面失業，是最理想的未來
回到正題，當被問到「AI會不會搶走所有的工作？」Nick Bostrom的看法如同他對自己的描述——「焦慮的樂觀主義者」（fretful optimist）。他反認為：「目標就是全面失業。」換言之，這是最好的結果。
雖說全球總體經濟不斷因AI熱潮攀高，但就業市場是持續走弱的。《華爾街日報》指出，近期美國勞動力市場顯著放緩，企業大幅減少就業招募，可能導致想尋找穩定全職工作的人面臨困境。這和工作被AI取代未必直接相關，但畢竟在資本主義的世界，工作定義了我們很大一部分的身分認同，會有危機感是一定的。
目前還沒有中譯版。（來源：Nick Bostrom）
事實上，Nick Bostrom去年出版的新書《深度烏托邦》（Deep Utopia），就正是聚焦在這個問題。不得不讚嘆，Nick Bostrom的提問和思想實驗都相當精闢。假設，我們安全且合乎道德地開發出超智慧，並用這項神奇的技術解放了自己，那麼，如同《深度烏托邦》的副標——「活在一切問題都被解決的世界與其意義」（Life and Meaning in a Solved World），AI是否會毀滅人類的問題已經不在。被解放之後，我們活在一個「沒問題」的世界，到時「人類存在的意義是什麼？」立即會從一個哲學問題轉變成一個現實問題，是每一個人都得直面的靈魂拷問。
「我們需要找到新的方式來建立自我價值與尊嚴，找到新的方法來填滿人生，而不是靠工作來維生。」訪談中，Nick Bostrom沒有給出解答。但在《深度烏托邦》中，他其實提供了頗實用的生存指引。
有限遊戲 vs 無限遊戲
《深度烏托邦》借用了James Carse著作《有限與無限的遊戲》（Finite and Infinite Games）中的概念——世界上只有兩種遊戲：「有限遊戲」與「無限遊戲」；有限遊戲的目標是贏，無限遊戲的目標是持續遊戲；有限遊戲有明確的規則，只要有人贏了，遊戲就會結束，而無限遊戲的規則可以隨時改變，玩家能選擇加入或離開，只要遊戲還在繼續，就算「成功」。
資本主義社會中，人類多半以「有限遊戲」為主，我們追求個人的工作升遷，追求學校的排名，提升國家的軟硬實力，種種「競爭力」的強調，背後都反映著資源稀缺性的根源；如果，AI徹底解決了稀缺問題，就業壓力、資源競爭消失，有限遊戲的動力就會跟著瓦解。因此，「全面失業」消除了人類的「勝負」動機，「我要贏」沒了意義，「我要怎麼繼續玩下去」才會是真正的重點。
如果以上提的書都懶得看，不如來追追《人生切割術》這齣劇。（來源：Apple TV）
Nick Bostrom從悲觀到樂觀的轉向，聽來確實烏托邦，但類似的樂觀視角，近年來在公共知識領域也層出不窮。比方美國智庫研究員Marian L. Tupy和經濟學家Gale L. Pooley合著的《超豐饒》（Superabundance），也端出很反直覺的主張——人口越多，創新越快，反而讓資源變得更充裕，打破傳統馬爾薩斯學派的「資源有限，人口增長是負擔」的有限遊戲邏輯。透過科技，人類不斷在重寫遊戲規則，「無限遊戲」的思維或許還真有它的道理。
「如果一切都非常順利，人們在回顧2025年時，會對我們曾經過的生活感到恐懼。」他指的，自然是「上班」這回事。這時，我想到今年艾美獎的大贏家《人生切割術》（Severance）。那些在巨集數據精煉部門（MDR）工作的Innie工作人格，在離開辦公室之後，下了班的人生是變得更有趣、更精彩嗎？細思極恐。
「黃仁勳，這就是你想要的世界嗎？」我想，就套這句社群迷因哏作結好了。
