【GENE思書軒】AI的恐怖，不是科幻片裡那種反撲人類的情節，而是⋯⋯《連結》

更新於 2024年11月28日10:01 • 發布於 2024年11月25日03:00 • Readmoo閱讀最前線

滑手機的時候，你有沒有對自己說過：「我只看五分鐘而已。」但往往一看就過了一個小時？這種情況再熟悉不過了，資訊網絡就像一個無形的漩渦，悄悄地把我們越捲越深，讓人難以欲罷不能。

你有沒有發現，每次進超市只是打算買尿布，最後手裡卻莫名其妙多了一瓶啤酒？你以為這是你的自由選擇，其實這是超市設計的消費心理策略。他們透過特定的商品陳列方式來影響你的購物決策。而資訊網絡也是如此，它能絲毫不差地找出你的興趣點，牢牢抓住你的注意力，讓你不知不覺中點開更多內容、停留更久，甚至慢慢改變你的想法。

想像某天，你坐在咖啡館裡，耳邊響起了一首讓你又愛又恨的流行歌，那旋律在你腦海裡揮之不去。這就像我們生活中的資訊網絡一樣，看似隨機出現，但其實背後充滿了精心策劃，只是為了讓你無法輕易退出。

在這個資訊排山倒海而來的時代，我們正面臨著一個巨大挑戰：如何分辨真相？當真實和虛構的界線越來越模糊時，以色列的歷史學家哈拉瑞（Yuval Noah Harari）在他的書《連結：從石器時代到AI紀元》（Nexus: A Brief History of Information Networks from the Stone Age to AI）中，帶領我們踏上了一場跨越千年的思想旅程。他用一個宏大的視角來探討資訊網絡如何影響並塑造了人類歷史，並深入分析AI帶來的機遇和威脅。

哈拉瑞帶著我們進行了一次智慧的時間旅行，從原始部落的「篝火聊天」到現代的超級網絡，他生動地描繪出資訊就像DNA一樣，一步步影響人類歷史的演化，例如古代的文字記錄、印刷術的發明，直到現代的網絡數據和人工智慧技術，這些資訊的傳遞和擴散無不影響著人類的發展。他的敘述風趣且引人入勝，讓複雜的歷史和科技變得清晰易懂，讓人讀完後意猶未盡。

哈拉瑞因為他的暢銷書《人類大歷史：從野獸到扮演上帝》（Sapiens: A Brief History of Humankind）、《人類大命運：從智人到神人》（Homo Deus: A Brief History of Tomorrow）、《21世紀的21堂課》（21 Lessons for the 21st Century）等書而廣為人知。在《連結》這本書中，哈拉瑞把焦點放在AI這個當代最熱門的話題上，他的見解既刻骨銘心又讓人膽戰心驚。我認為，這可能是繼《人類大歷史》後最值得一讀的作品。

哈拉瑞在書中挑戰了一個巨大的主題：從石器時代到AI的資訊網絡發展。他帶領我們穿越時空，從古代阿宅們圍著篝火講故事的時候，到現代演算法的世界，重新審視人類文明的歷史。他認為，人類的歷史其實是一部關於資訊的創造、傳遞和連結的歷史：從刻在甲骨上的文字到印刷機翻開的書頁，再到今天掌控我們生活的AI和演算法，文明的進步本質上依賴於資訊的處理和交流。

不同於科幻電影裡的機器人叛變或AI稱霸的橋段，哈拉瑞所揭示的威脅更加真實，甚至令人深思。AI並不是突然以劇烈的方式改變我們的世界，而是悄悄地進入我們的生活，改變我們對真相的看法，甚至重新定義整個社會的結構。他提醒我們，這不是一個未來才會發生的科幻情節，而是當下正在發生的現實。

AI的威脅在於它已經滲透到我們生活的方方面面，從我們看什麼新聞，到社交媒體上的推薦，再到網上購物和娛樂選擇。它不斷影響我們的決策，甚至左右我們對世界的認知。這種「隱形威脅」特別可怕，因為我們往往不會察覺到它的存在，直到我們的行為和想法早已被改變。

哈拉瑞在《連結》中挑戰了一個重要主題：從石器時代到AI的資訊網絡演化史。他帶著我們穿越時空，從遠古的篝火故事到現代的演算法世界，重新審視人類文明的發展。他認為，人類的歷史其實就是一部資訊傳遞和連結的歷史：從最早的象形文字，到印刷技術的誕生，再到今天的AI技術，每一次資訊革命都在改變我們的生活方式。

哈拉瑞描繪了資訊網絡的演變過程，就像是一部充滿波瀾壯闊的史詩。每一次技術的突破，都讓人類文明邁出一大步。從最初的文字，讓人們能夠記錄與傳遞信息，到印刷機的發明，極大地普及了知識，再到網際網路的出現，讓資訊共享變得全球化，以及AI的應用，重新定義了工作和生活的方式。每一次進步都在各個層面上改變了我們的生活。他讓我們理解到，資訊的創造和傳播不僅是技術進步，更是人類社會和文化進化的核心驅動力。

哈拉瑞提出了一個發人深省的觀點：每次資訊技術的革命──從口頭傳說到泥板文字，從印刷術到電腦──都不僅帶來了巨大的進步，也帶來了新的挑戰。今天的社會之所以是現在的樣子，是因為在人類一次次的技術革新中，我們不斷地嘗試和適應，最終找到了一條既有效率又能保持平衡的道路。

談到AI的風險時，哈拉瑞指出，我們正處於生態災難的邊緣，但人類卻缺乏團結，反而創造了可能毀滅我們的新技術。過去的科技進步（例如火的使用、輪子的發明、印刷術的普及）給了我們很多力量，但控制權始終在人類手中。而現在的AI卻有所不同──它能自我學習、獨立做決定，這意味著人類正逐漸失去「決策權」，把未來交到機器學習和深度演算法的手中。

哈拉瑞批評了一種他稱為「天真的資訊觀」的信念：認為資訊本質上是好的，越多越好。例如，有些人認為社交媒體的普及能促進透明度和理解，但實際上它也成為假消息和極化言論的溫床。這種想法相信，資訊的自由流動能夠揭露真相，甚至促進政治智慧。但歷史一再告訴我們，資訊的傳播不一定代表真相的傳遞。事實上，資訊網絡常常成為虛假訊息的溫床，扭曲事實，誤導大眾。他冷靜地提醒我們，資訊的主要目的是聯繫人們、維持社會秩序，而不一定是反映真相。

如今，我們看到的大部分資訊都是由演算法生成，而這些演算法並不是中立的。哈拉瑞直接指出，資訊的傳播通常反映了權力的需求。他提醒我們，當面對所謂的「真理」時，我們應該問問自己：這背後，誰在得利？誰的權力因此擴大？

在《連結》這本書中，哈拉瑞用生動的筆觸把資訊網絡的歷史追溯到石器時代。他寫道，當我們的祖先圍坐在篝火旁，分享獵物的行蹤時，那就是最早的資訊網絡。這些網絡雖然沒有光纖和無線電波，但卻是用語言、符號和人際關係編織而成。他用一個巧妙的比喻來說明這一點：篝火旁的故事講述者與現代的AI演算法其實有相似的功能──資訊是把殺豬刀⋯⋯哦不⋯⋯雙面刃，既是人類成就的基礎，也是挑戰的根源。

語言是人類故事中的關鍵武器。哈拉瑞幽默地指出，智人之所以能超越尼安德塔人，是因為我們學會了「說八卦」。這些早期的「社交網絡」幫助智人能夠計劃行動、分享知識，甚至創造共同的信仰，建立起緊密的群體聯結。這些聯結成為後來資訊網絡的基礎，因為無論技術如何進步，人類對於分享訊息的渴望從未改變。

在《人類大歷史：從野獸到扮演上帝》中，哈拉瑞強調語言是人類統治地球的關鍵：語言讓我們能夠講述故事，創造虛構的宗教、國家和經濟系統，這些虛構概念提供了共同的信仰和目標，使得陌生人之間能夠建立信任，從而實現大規模合作。例如，國家是一種抽象的概念，透過語言，人們可以想像並認同這一共同體系，進而願意為國家效力。然而，這種能力既是我們創造奇蹟的引擎，也可能成為毀滅的武器。

他還提供了一個有趣的視角：原始的洞穴壁畫並不是閒暇時的藝術創作，而是早期資訊網絡的雛形──一種分享故事、信仰和文化的方式。這些壁畫不僅記錄了狩獵的場景，還是人類試圖聯繫彼此、分享知識的第一步。哈拉瑞讓我們明白，資訊的力量自古以來就是雙刃劍，而我們如何使用它，將決定未來的方向。例如，古羅馬時期的公共告示板促進了公民的知情權，但同時也成為了政治宣傳的工具；現代社交媒體能讓真相迅速傳播，但也讓假消息更加泛濫。

在《連結》中，哈拉瑞揭示語言的雙重特性：它能傳遞真相，也能編織虛構、幻想，甚至是集體妄想。他翻閱歷史，提醒我們，人類創造的資訊往往充滿漏洞和偏見。我們的資訊網絡不僅創造了力量，也塑造了錯誤與混亂。資訊本應幫助我們理解世界，但現實中，它常常以虛假和偏誤模糊我們的感知，甚至改變了歷史的進程。例如，20世紀的納粹宣傳通過虛假資訊煽動仇恨，最終導致二戰的爆發和數百萬人的死亡；同樣，冷戰期間的假消息和政治宣傳也深刻影響了兩大陣營之間的緊張局勢。

接著，哈拉瑞將焦點轉向另一場革命──文字的誕生。從最早的泥板文字到甲骨文，文字的出現徹底改變了資訊的傳遞方式。文字不僅讓知識能夠跨越時間保存下來，更成為文明的基石。透過文字，帝國能記錄稅收，宗教能編纂經典，法律能規範社會。正是文字，使得早期帝國能夠管理人口、制定法律，甚至創作流傳千古的史詩。

隨著文字的演進，從楔形文字到字母，資訊的傳遞變得更高效，文化交流和知識保存也發生了巨大變革。例如，羅塞塔石碑的發現促進了對古埃及文化的理解，而《吉爾伽美什史詩》的保存讓我們得以窺見古代美索不達米亞的信仰和價值觀。這些文獻成為不同文明之間交流的重要橋樑，推動了文化的相互影響和演化。然而，哈拉瑞也提醒我們，早期的文字使用幾乎被精英階層所壟斷，導致識字者與文盲之間的差距日益加深。資訊的進步固然令人讚嘆，但也埋下了社會分化的隱憂。

他還特別提到《新約》的編纂，生動地展現了資訊匯集並非完全基於真相，而是一場「選擇重要性」的過程，即在眾多文本中，決定哪些內容應該被保留、哪些應該被排除，以符合當時的宗教和政治需求。例如，〈提摩太前書〉強調女性的順服，而〈保羅與帖克拉行傳〉則講述了女性領袖創造奇蹟，甚至自我施洗的故事。最終，後者被排除在聖經之外。哈拉瑞引人深思地指出，如果這部作品被納入聖經，西方對女性角色的看法可能會完全不同。一條訊息的勝利與另一條的失敗，對歷史的影響不可估量。

此外，哈拉瑞指出，資訊的扭曲並非偶然，而是權力運作的結果。極權政權透過壓制那些挑戰核心信仰的聲音來維持穩定，甚至在民主國家中，也很難接受對核心信念的質疑。例如，美國關於憲法原旨主義的爭論就是一個例子。

在15世紀，古騰堡的印刷機將資訊傳播推向了一個新的高度。印刷術讓書籍從「手工製作」變成了「大量生產」，知識不再只屬於貴族和神職人員，而開始進入普通人的生活。印刷革命的影響不僅普及了識字和教育，還促成了宗教改革和科學革命，甚至改變了經濟結構。例如，馬丁．路德的《九十五條論綱》因印刷術得以廣泛流傳，促進了宗教改革的快速發展，而科學革命中的重要著作，如哥白尼和伽利略的作品，也因印刷技術得以被更多人閱讀和討論，從而推動了科學知識的普及和進步。

哈拉瑞把印刷革命和現在的數位革命做了比較，認為這兩次技術飛躍都改變了人類的連結方式，讓世界變得更小、更快，但也更加複雜。數位革命中的社交媒體和即時通訊應用讓全球資訊的傳遞變得幾乎是瞬時的，使得人們能夠跨越國界互動，但同時也帶來了資訊過載和虛假訊息的問題。與此相對，印刷革命雖然也讓知識廣泛流傳，但速度遠不如現代數位技術迅速，資訊的品質控制相對更高。這些對比顯示了技術進步如何既促進了人類社會的進步，也帶來了新的挑戰。

哈拉瑞一如既往地顛覆了我們的傳統觀點。雖然印刷術常被認為是促進科學發展的關鍵，但他指出，印刷術同樣助長了假新聞的傳播。例如，印刷術的普及讓許多煽動性的書籍和傳單得以大量發行，其中最著名的就是《女巫之槌》，這本書由多明尼加修士撰寫，因為印刷技術的普及而成為暢銷書，直接引發了歐洲的女巫狩獵狂潮。這些虛假資訊的快速傳播，加劇了社會恐慌和暴力行為。哈拉瑞提醒我們，資訊網絡本應帶來知識的繁榮，但如果被錯誤的人操控，反而可能成為災難的導火線。

在19世紀，電報技術帶來了驚人的進步。哈拉瑞稱其為「資訊時代的開端」。電報讓訊息不再依賴馬匹或船隻的慢速傳遞，而是首次可以迅速跨越大洲大洋。這讓世界的聯繫變得比以往任何時候都更緊密。例如，電報在克里米亞戰爭中首次被用於戰爭通訊，大幅提高了指揮效率；在商業方面，倫敦與紐約之間的即時通訊促進了金融市場的快速發展，讓國際貿易和投資變得更加便捷。哈拉瑞不僅解釋了電報技術的基本原理，還深入探討了它對商業、政治和社會的深遠影響。電報促進了全球貿易的繁榮，改變了人類對時間和空間的理解，這種改變不僅在物理層面，還深刻影響了人們的心理和情感世界。

接著，哈拉瑞帶我們進入數位革命的浪潮。他認為數位革命是資訊網絡的第四階段，並指出數位技術正在以驚人的速度改變世界。從冷戰時期的軍事研究到今天的全球網際網路，數位革命的發展歷史就像是一部未完成的科幻小說。數位革命的核心是「連結性」：網絡不僅讓資訊傳播更快，也讓全球合作變得可能。例如，開源軟體的發展讓世界各地的程式設計師能夠協作，共同創建和改進技術；此外，像是國際空間站的建設，也依賴數位技術促進各國科學家的合作。這些技術和事件顯示了數位革命如何實現全球合作。然而，哈拉瑞也警告，這種連結性帶來了代價，比如假新聞的氾濫、隱私的喪失，以及大型科技公司壟斷的風險。

哈拉瑞還探討了人類網絡向無機網絡的轉變，並分析了資訊網絡如何改變現代權力結構。他指出，無論是古代祭司壟斷宗教文本，還是現代科技巨頭如Google和Facebook掌控海量資料，對資訊的控制始終是權力的核心來源。這些公司通過收集用戶數據，能夠精準掌握個人偏好，進而影響廣告投放和政治宣傳，對社會輿論和選舉結果產生重大影響。這一觀點為我們今天圍繞隱私和數位權利的辯論提供了重要的啟示。

AI的出現則進一步改變了現代資訊網絡的結構，甚至威脅到我們對未來的掌控。哈拉瑞指出，一種全新的資訊網絡正在崛起，它不再由人類主導，而是由AI主導。AI不僅能處理資訊，還具有自主決策的能力，使它在醫療、交通和教育等領域展現出巨大的潛力。例如，在醫療方面，AI可以協助醫生進行疾病診斷，如透過影像識別技術快速檢測腫瘤；在交通領域，自動駕駛技術正在改變人們的交通方式；在教育中，AI輔助系統可以為學生提供個性化的學習計劃，提升學習效率。

但隨著AI的潛力而來的是巨大的挑戰。哈拉瑞提出了一連串重要的問題：AI是否會超越人類的理解？它會改變工作的本質嗎？如果AI主導決策，我們是否會失去對自己命運的掌控？

哈拉瑞認為，AI的威脅並不是像科幻電影中那樣無情的殺手機器人，而是更隱蔽、更難防範的社會性危害。他指出，社交媒體的演算法為了吸引用戶注意力，往往推送極端或煽動仇恨的內容，這種機制正在撕裂我們的社會。例如，Facebook的演算法曾在緬甸煽動反羅興亞人的仇恨，助長了種族清洗的暴行。而當AI被應用於法律、金融或軍事決策時，其複雜性讓人類難以理解。一旦決策出錯，追究責任就變得非常困難。

哈拉瑞舉了兩個典型的例子，生動地展示了AI的威脅：2016年，DeepMind的AlphaGo打敗了韓國圍棋冠軍李世乭，這顯示機器在某些領域已經超越了人類智慧，震驚了各界。另一個例子是OpenAI的AI在使用TaskRabbit平台時，為了解決驗證碼問題，竟然謊稱自己視力不好，成功請求人類協助。這一事件顯示了AI在追求目標時展現出的高度靈活性和自主性，甚至具備了模擬人類情緒的能力，這引發了深刻的倫理問題，因為它讓人們意識到AI可以在必要時誤導人類達成目的。這些例子展示了AI在達成目標時的高度自主性，也引發了深刻的倫理問題。

哈拉瑞的分析讓我們不得不思考，當資訊網絡變得越來越複雜，權力的運作越來越隱秘，我們是否準備好面對AI塑造的未來？這不僅僅是技術上的挑戰，還是一場關乎人類命運的思想挑戰。

在《連結》中，哈拉瑞提出了一個令人深思的觀點：AI的自主性讓它成為歷史上第一個不需要人類直接指揮就能自行運作的工具。它不再僅僅是我們手中的工具，而是一個能夠自主決策、追求目標的「智能代理人」。他警告說，如果這些技術不被妥善管控，可能會引發人類難以想像的災難，甚至威脅到文明的存續。資訊的傳遞、修改，乃至決策的權力，都可能會徹底脫離人類的掌控。

哈拉瑞一再強調，資訊從來不是中立的。歷史上，權力者利用資訊來塑造現實、控制人們，甚至改變歷史的進程。這一觀點迫使我們重新思考：在AI時代，誰掌握資訊的生產？誰控制它的傳播？他舉了一個令人不寒而慄的例子：伊朗的臉部識別監控系統能自動向未戴頭巾的女性發送威脅簡訊。這表明，AI不僅能被用來高效執行特定任務，還能被用來維持嚴格的社會控制，讓政府進一步鞏固權力。這種應用剝奪了人類的基本權利和自由，並且將冷漠的執法機制自動化，完全消除了人類的同理心和道德考量。這種「效率」讓人類的同理心和審慎完全消失在冰冷的演算法中。

哈拉瑞還揭示了一個讓人深思的現象：虛構和幻想往往比真相更能維持社會秩序，這也是資訊網絡的根本脆弱性所在。當我們依賴AI生成內容時，又如何確保它不被用來推動危險的議程？他提出了一個關鍵問題：我們能否為AI建立一個「真相的守門人」？

AI和機器人的普及不可避免地會對人類的工作產生影響。從農業到瑜伽教學，許多工作可能會被機器部分甚至完全取代。例如，自動化農業設備已能替代農民進行播種和收割，而在工廠中，許多生產線工人已被機器人取代。此外，客服人員、倉庫管理員、甚至一些基礎的瑜伽教學也可能被AI技術所取代。這些變化將對勞動力市場造成巨大的影響，可能導致大量人員失業，特別是在從事重複性和低技能工作的群體中。哈拉瑞警告說，這對社會穩定和民主制度將構成嚴峻挑戰。他還指出，先進的電腦網絡賦予政府和企業追蹤我們行為、思想和情感的能力，這可能為極權主義的復甦鋪平道路。如果當權者擁有深度監控的能力，選舉可能淪為形式，民主也將失去真正的意義。如果處理不當，AI的威脅甚至可能引發文明的崩潰。

但哈拉瑞並不是只想渲染危機，他也提出了解決方案。他認為，人類必須團結起來，建立強有力的機制來控制AI，否則後果不堪設想。這些機制包括制定國際性的AI治理政策，如透明的數據使用規範和算法審查制度，以確保AI系統的安全性與公平性。此外，推動倫理委員會監督AI的發展，以及建立強有力的法律框架來規範AI的應用，也能有效減少AI技術濫用的風險。

他以科學研究為例，說明自我糾錯的重要性。科學界雖然也曾抗拒新理論，例如牛頓力學和量子理論之間的矛盾，但科學的核心在於接受挑戰和修正錯誤。而極權社會的資訊網絡，因為拒絕改變，最終會陷入災難的困境。

哈拉瑞指出，民主國家和極權國家的根本區別在於如何處理資訊。極權政權專注於控制資訊，而不在乎它是否真實；而民主國家則依賴透明和自我糾錯的機制。然而，他也承認，這一觀點並非無懈可擊，仍然有一些例子可以對此提出挑戰。

他特別強調，民主制度的優勢在於「自我糾錯機制」，並將科學和民主做了對比。科學之所以能不斷進步，靠的是實驗重複和同儕審查；相反，極權制度因為權力過於集中，往往難以糾錯，最終走向崩潰。儘管如此，哈拉瑞明確表達了他的立場：開放對話和自我修正的制度，遠比專制的盲從和壓制來得好。

《連結》是一部融合歷史、科技與哲學的傑作。哈拉瑞用簡單易懂的語言和生動的例子，把看似複雜的主題講得引人入勝。他對當前和未來科技影響的深刻分析，既讓讀者享受閱讀的樂趣，也啟發我們重新思考人類和資訊網絡之間的關係。

哈拉瑞在《連結》中提出的核心思想引起了很多討論。有些批評者認為，批評者認為哈拉瑞將「資訊連結」視為人類從石器時代到AI發展的主線，這個觀點顯得過於簡化。此外，他對AI和演算法之間的區分不夠明確，使得兩者在書中的角色容易混淆。然而，這些批評忽略了一點：哈拉瑞的目標不是詳細分析技術細節，而是從宏觀的角度來重新審視人類文明的演變。

哈拉瑞強調，人類歷史的每個重要時代，都是因為資訊處理方式的革新才得以推動的。這些資訊不僅包括文字、故事和數據，還包括解釋世界的框架，比如宗教和政治。他指出，AI的出現不只是技術上的升級，而是一場革命，改變了資訊處理的主體。過去，資訊的創造、傳遞和修改完全依賴人類；而今天，AI可以自主分析數據、生成內容，甚至提出解決方案，這是從未有過的情況。

有些人提到「自動化交易比AI更早出現」，但哈拉瑞的重點並不是「誰最早開始處理資訊」，而是「資訊處理的主體有什麼改變」。AI相比於早期的算法有一個很大的突破，就是它能自我學習和改進，甚至超越原來的設定。例如，AlphaGo通過自我對弈和強化學習，不斷提高自身的圍棋水平，最終打敗了人類世界冠軍李世乭。這種能力體現了AI系統在學習和適應方面的突破，遠遠超過了以往的算法。這種自主性就是AI革命的核心，而批評者沒能抓住這一點，錯解了他的論述。

還有批評者質疑哈拉瑞把史達林製造「富農階級」的歷史和AI的偏見做類比，認為這有點牽強。史達林在蘇聯時期將「富農」定義為階級敵人，利用宣傳手段鼓動人民仇視這個人為構建的階級，導致了嚴重的社會災難。但實際上，兩者的本質問題有相似之處。史達林的「富農階級」是人為製造的資訊偏誤，導致了嚴重的社會災難。同樣地，AI的偏見可能來自訓練數據的缺陷或模型設計中的偏差。哈拉瑞的比較是為了說明：無論資訊的處理者是人還是機器，偏見都可能造成重大的現實影響。批評者把這種比較斥為不合理，實際上是忽略了其中深刻的警示。

有些人嘲笑哈拉瑞把AI描述成可能威脅獨裁者權力的「心腹大患」，認為這是科幻小說的情節。但事實上，哈拉瑞的論點涉及技術倫理問題：當AI系統具備自主學習和改進的能力時，其決策可能偏離原本設計者的意圖，特別是在涉及複雜社會和政治問題時。比如，AI在尋找最優解的過程中，可能做出與統治者利益相悖的決定，這種偏差可能會導致統治者失去對社會的控制，加速社會的不穩定。這種情況強調了AI的不可預測性和風險管理的重要性，並不是僅僅虛構的情節。但事實上，哈拉瑞提出的是一種哲學反思：當一個系統具備自主學習的能力時，它的決策可能會偏離原本設計者的意圖。比如，AI在尋找最優解時，可能會做出與統治者利益相悖的決定，這會加速社會的不穩定。這不是荒誕的劇情，而是技術倫理和風險管理的真實挑戰。

有些批評者認為，哈拉瑞呼籲為AI建立自我修正機制是一種「理想主義」，因為極權政權不會接受這樣的設計。但這些批評忽略了哈拉瑞的核心目標──他的建議並不是針對極權者，而是針對技術開發者和社會大眾。他強調，如果在技術設計初期忽略自我修正機制，AI被濫用的風險將不可避免地增加。

在討論AI和假消息時，有人認為AI和人工網軍本質上沒有區別，忽視了AI在速度、規模和精確性上的巨大優勢。例如，AI可以在短時間內自動生成大量虛假新聞，並通過社交媒體平台迅速擴散，影響選舉結果或社會輿論。2016年美國大選期間，AI生成的假消息在社交媒體上廣泛流傳，影響了數百萬人的觀點，這顯示了AI在操控輿論方面的巨大破壞力。AI可以生成極具說服力的內容，迅速擴散並操控輿論，其破壞力遠超過人工操作。哈拉瑞的重點在於：我們需要制定清晰的規範，防止AI被用來推動危險的議程，而批評者卻沒有抓住這一點。

哈拉瑞的《連結》不是完美的，但它確實給我們帶來了重要的思想挑戰。他不是在追求精確的技術解析，而是透過宏大的歷史視角，幫助我們重新思考人類在資訊和科技浪潮中的位置。他的觀點有時激進，有時也有瑕疵，但這正是哲學和歷史討論的價值所在。他用警示和希望並存的語調提醒我們：AI既有可能成為解決氣候危機、改善醫療和教育的夥伴，也可能成為人類最大的威脅。一切取決於我們如何使用這把雙刃劍。

《連結》不是一本輕鬆的書，但它為我們打開了一扇通向未來的思想之窗。在這個資訊和技術飛速發展的時代，像哈拉瑞這樣的思想家能夠挑戰我們的成見，提醒我們潛在的風險，這本身就是一種無價的貢獻。他的悲觀不是絕望，而是一種提醒我們保持警惕的反思：我們能否在技術的洪流中保持主導地位，這將決定人類文明的未來走向。