《今日簡史：人類命運大議題》
推薦指數：★★★★
作者：[以色列]尤瓦爾·赫拉利
出版社：中信出版集團
出版日期：2018年8月
作者簡介：
[以色列]尤瓦爾·赫拉利
暢銷書《人類簡史》《未來簡史》作者，牛津大學曆史學博士，耶路撒冷希伯來大學教授，全球矚目的新銳曆史學家。其關注的領域橫跨曆史學、人類學、生态學、基因學等，他從宏觀角度切入的研究往往得到頗具新意而又耐人尋味的觀點，引發全球廣泛關注。
21世紀初，最重要的藝術流派或許就是科幻小說。真會去讀關于機器學習或基因工程最新文章的人寥寥無幾，但很多人會去看《黑客帝國》《她》之類的電影，以及《西部世界》《黑鏡》之類的電視劇。正是這些電影和電視劇，塑造了人們對于現今科技、社會和經濟發展的認識。這也意味着，科幻小說在描述科學現實的時候必須更負責，否則就可能讓人産生錯誤的想法，或是把注意力浪費在錯誤的問題上。
現代科幻小說最糟糕的問題，或許就在于混淆了“智能”（intelligence）和“意識”（consciousness）的概念。因此，這些小說常常過度擔心機器人與人類之間可能開戰，但事實上我們真正該擔心的，是有一小群超人類精英憑借算法帶來的力量，與大量底層的手無權力的智人之間發生沖突。真要思考人工智能的未來，比較值得參考的仍然是卡爾·馬克思的理論，而不是史蒂文·斯皮爾伯格的電影。
活在盒子裡
在《黑客帝國》刻畫的世界裡，幾乎所有人都被監禁在網絡空間，他們所經曆的一切都是由一個主算法控制。《楚門的世界》則是專講一個人的故事，楚門在渾然不知的情況下，成了某個電視真人秀裡的主角，也完全不知道自己所有的親朋好友（包括母親、妻子和最要好的朋友）都是演員；發生在他身上的一切都有精心設計的腳本；他所說和所做的一切，都被隐蔽的攝影機記錄下來，熱情觀看的粉絲人數多達數百萬。
然而，這兩部電影雖然概念精妙，最後都還是縮了手，沒讓劇情設定發揮到極緻。《黑客帝國》就仍然認為困在母體（Matrix）裡的人還有真正的自我，能夠不受任何科技操縱，而且在母體之外還有個真正的現實，隻要主角足夠努力，就能抵達。這樣看來，母體隻是個人造的障礙，它隔開了内在的真實自我與外在的真實世界。于是，經曆過許多考驗和磨難之後，兩位主角（《黑客帝國》裡的尼奧、《楚門的世界》裡的楚門）都成功超越并逃離了整個操縱網絡，找到了真實的自我，抵達了真正的應許之地。
奇怪的是，最後這個真正的應許之地，在很多層面上看還是和造出來的母體沒什麼不同。楚門最後離開攝影棚之後，一心想與大學時代曾經心儀但被導演安排離開節目的對象再相聚。但如果楚門這種浪漫幻想真的實現了，他的生活完全就會是《楚門的世界》賣給全球數百萬觀衆的那個好萊塢美夢，再加上在斐濟的假期。楚門走到現實世界後，到底會找到怎樣不同的生活，這部電影并沒有給我們任何提示。
同樣，在尼奧吞下著名的紅色藥丸并逃出母體的時候，也發現外面的世界與裡面的沒有什麼不同。裡外都有各種暴力沖突，人類也同樣受到恐懼、欲望、愛和嫉妒的驅動。這部電影的結局最好是這樣：有人告訴尼奧，他所處的現實隻是個更大的母體，如果真想再逃到“真實的世界”，必須再挑一次藍色藥丸或紅色藥丸。
從目前的技術和科學革命來看，我們該擔心的不是算法和電視鏡頭控制了真實的個人和真正的現實，而是“真實”本身也是虛幻。人類害怕被困在盒子裡，但沒意識到自己早就被困在一個盒子裡了（這個盒子就是人類的大腦），而且盒子外面還有一個更大的盒子，也就是充滿各種虛構故事的人類社會。你逃離母體，來到了一個更大的母體。你想找出這個世界用哪些方式操縱你，最後也會發現自己的核心身份隻是神經網絡形成的複雜幻象。
心智也是被操控的？
或許，我們所有人都活在一個巨大的計算機模拟程序裡，就像是《黑客帝國》中的母體。這樣一來，我們所有關于國家、宗教和意識形态的故事都會被推翻，但我們的心理體驗仍然是真實的。如果有一天事實證明，人類曆史不過就是來自某個锆石行星的老鼠科學家在超級計算機上的精心模拟，那對經典學者與宗教領袖來說可真是顔面無光。但就算如此，我們還是希望這些老鼠科學家給我們解釋一下，為何要有亞美尼亞種族大屠殺，為何會出現奧斯威辛集中營。這種模拟怎麼會得到锆石大學倫理審查委員會的許可？即使毒氣室隻是矽芯片裡的電子信号，所有人感受到的疼痛、恐懼和絕望并不會有分毫的減輕。
疼痛就是疼痛，恐懼就是恐懼，愛就是愛，就算在母體裡也不例外。無論你感受到的恐懼是來自外部世界的原子集合還是計算機操縱的電子信号，都無關緊要。那份恐懼就是真實的。所以，如果想要探究你心智的真實，母體内或外并不會有任何差别。
大多數科幻電影其實講的都是一個非常古老的故事：心智勝過物質。這個故事會說，在3萬年前，“心智想象出一把石刀，手工制造出一把石刀，人類殺死猛犸象”。事實上，人類之所以能夠主宰世界，主要并不是因為發明了刀子、殺死了猛犸象，而是因為能夠操控心智。心智并不是自由塑造曆史行為和生物現實的主體，而是被曆史和生物學塑造的客體。
就算是我們最珍視的那些理想（自由、愛、創造力），也和石刀沒什麼不同，都是某個人為殺死某頭猛犸象而打造的。看看目前最頂尖的科學理論和最先進的技術工具就知道，心智一直都受到各種操控。事實上，就沒有什麼“真實的自我”能夠免于被操控。你可知道，這些年來你看過多少電影，讀過多少小說和詩歌？這些人工制品又如何塑造、磨煉了你的愛情觀？如果你覺得自己可以按下某個删除按鈕，消除潛意識和大腦的邊緣系統（limbicsystem）裡所有的好萊塢痕迹，那麼你已經在欺騙自己了。
我們喜歡那個制造石刀的故事，但不喜歡自己成了故事裡的那把石刀。所以，把那個猛犸象的故事改編成母體版本會是這樣：“心智想象出一個機器人；親手制造出一個機器人；機器人殺死恐怖分子，但也想控制心智；心智殺死了機器人。”然而，這個故事是有問題的。這裡的問題并不在于心智能否殺掉機器人，而在于一開始想象出機器人的那個心智，早就屬于受各種操控所生成的産品。所以，殺掉機器人無法讓我們得到自由。
（本文節選自《今日簡史：人類命運大議題》一書，内容有删減，标題為編輯所加。）
編輯：牛绮思
美編：孫珍蘭