書評》機器人需要心智嗎？讀經典科幻《機器人雷克斯》
《機器人雷克斯》出版於1965年，雷克斯是有錢人家的高階家務機器人，負責照顧和陪伴小主人保羅。保羅一家人從太空殖民地調回地球，基於運輸成本考量，男主人決定把雷克斯賣給當地的農場，雷克斯太想念保羅，於是逃走了。
以現在觀點來看，《機器人雷克斯》就是常見的「機器人產生心智和自主性」的故事。在哲學上，當你有心智（mind），代表你有主觀感受、能做決定；當你有自主性（autonomy），代表你能夠依照自己的決定去行動。在這故事裡，該有的條件都有：
肇因：機器人意外產生心智和自主性的原因，在這故事裡是對小主人的「感情」，在其他故事裡可能是零件故障。
轉變證據：要說服讀者相信這機器人真的產生了心智和自主性，需要一些劇情線索。在這故事裡，這些線索是雷克斯逐漸能感受到他的感知系統不支援的情感資訊，並且也能夠不照著「原廠設定」去行動。這是很常見的證據形式。在2024年5月的《科學人》〈電影怎麼說服你，AI有心靈〉一文裡，我分析過其他例子：
在《駭客任務》裡，穿著西裝的AI史密斯探員開始不依照「母體」的計畫行動，似乎有了自己的目標，甚至摘下了AI探員互相聯繫用的耳機，象徵自己不再受控制。在《變人》裡，機器人安德魯雕刻了小木馬，而它的製造商北安公司對此的反應則是：「這是個程序錯誤，因為我們的機器人不應該會雕刻東西。」
劇情衝突：機器人的心智和自主性帶來衝突並推進劇情。在這故事裡顯而易見：雷克斯要逃亡了，再來呢？
如此看來，《機器人雷克斯》可以拉出一連串有趣的哲學問題：
- 有心智和自主性的機器人，是可能的嗎？
- 若機器人有了心智和自主性，那會是怎樣的情況？
- 最後，人類該如何對待那些有心智和自主性的機器人？
➤心智和自主性是怎麼長出來的？
先想想我們人類自己。人類多半相信自己在一般情況下有自主性，並且多數行為都是自主的，除非你受迫、被催眠之類。我們之所以如此認為，是因為我們知道自己有心智：我們能作為主體去感知、思考、決定，然後依照決定做出行為。並且，當我們經歷這些，我們也能感受到這些事件之間的因果關係，以及自己的能動性（agency）在其中扮演的角色：這些事情並不是憑空發生，而是一環扣著一環，由「我」促成。
當然，在嚴格的標準底下，我或許不算是知道其他人類都跟我一樣有心智和自主性，畢竟我並沒有體驗過你的主觀感受。不過照常識推論，既然我們有同一套物理結構，那若我有心智和自主性，你沒道理沒有。
基於對自己心智的主觀理解，人類能合理認為自己有自主性，但同樣的說法能用於機器人嗎？我相信你跟我一樣，只當過碳基神經系統的人類，沒當過矽基電子系統的機器人，沒體驗過機器人的主體感受（而且我們根本不知道機器人有沒有所謂「主體感受」）。進一步說，矽晶片組成的電路，能像神經系統那樣突現出（emerge）心智嗎？這篇文章的撰寫仰賴蘋果電腦的M1處理器，這個處理器已經非常複雜，能進行我沒本事做的各種運算，難不成它其實也有一定程度的心智嗎？
電腦的心智對一些人來說難以想像，但我們有好理由相信：若現在的人類算是擁有心智和自主性，這些事物一定也是在「某些東西越變越複雜」的過程中誕生的。畢竟我們的遠祖可是藍綠藻，從藍綠藻到智人之間，一定發生了什麼事情，讓心智和自主性跑出來。如果那類事情能發生在過去30億年的演化長河中，那若它發生在電腦處理器飛速發展的過去幾十年或未來幾百年間，好像也不會太意外。
（如果你不同意這個論點，那你可能就得說明：為什麼矽基系統無法構成心智，但碳基系統可以？碳有什麼特別的？科幻作家波森（Terry Bisson）的短篇故事〈他們是肉做的！〉（They're Made Out of Meat）就是在挑戰這個看法。）
到了這裡，我們可以回來看看《機器人雷克斯》裡發生的事情。
或許是為了戲劇張力，許多描述「機器人長出心智」的故事都強調情感的作用，例如雷克斯的心智和自主性，顯然就誕生自他對小主人的關懷。這類故事可能讓一些人覺得過於浪漫，或者是為了滿足某些「怎樣才算是擁有心智」的技術判準。畢竟要說刻板印象裡的機器人和人類最大的區分，似乎也就在於情感的有無。
然而，情感確實是心智的重要配備，照現代認知科學的理解，情感是認知能力的一部分，協助我們的祖先保護自己、繁殖後代。雷克斯不情願離開保羅，而你作為人類，也一樣想要跟心愛的人待在一起，雖然許多藝術作品將感性對立於理性，但在一些生存和繁衍的觀點下，這種「感性趨力」其實相當合理。
總之，雖然《機器人雷克斯》並沒有詳細描述雷克斯的腦到底有多複雜（以故事調性來說，也沒這必要）。但若故事裡描述的，就是機器人版本的「演化長河當中心智出現的那一瞬」，似乎也不無可能：雷克斯作為故事的敘事者，以第一人稱很明確的描述了自己的各種感受，也讓讀者能夠看出，他的認知能力和獨立做決定的能力，隨著劇情推進逐漸增加，並且也長出了人類創造者和管理者不樂見的各種行為動機。
AI機器人可以透過模仿人類動作達成任務，有朝一日或許也可能模仿出心智
➤機器人有心智和自主性，這是好事嗎？
雷克斯長出心智和自主性了，這對人類來說是好事嗎？照故事敘述來說似乎是：在保羅與雷克斯雙雙落網後，保羅說服開發機器人的葛蘭伍斯實驗室：應該把心智覺醒、能自己自主決策的雷克斯包裝成「機器人的未來」，讓他環遊世界，作為實驗室的火力展示（雖然葛蘭伍斯實驗室也搞不懂雷克斯身上到底發生了什麼）。實驗室同意了，並且對雷克斯當前的合法擁有者支付了「贖金」，讓雷克斯擁有「自由」。
多贏局面，大家都開心，不過在我看來這只是特例。想想看，如果木星衛星格尼米德的所有農務機器人都長出了心智和自主性，開始培養自己的興趣和喜惡，會因為「更重要的事情」停止工作，那農人會多困擾呢？雷克斯的心智和自主性能帶來好結局，只是因為這單一案例無傷大雅，而且可能還挺有趣的：照顧型機器人為了主人逃亡，並且也沒惹出大亂子，大致是人們可以接受的溫馨意外。
然而，若超過這個規模，人類社會大概不會樂見更多機器人「覺醒」。背後的理由相當簡單：據我所知，我們人類造機器人，目前主要還是因為我們缺工具，而不是因為我們缺朋友或公民。人類需要機器人聽話受控，而不是有自己的意見。當然，有時候你需要生成式AI充當反方，提供與你相左的意見跟你辯論，但即便如此，你大概也不想要你的AI鬧脾氣、暫時不願意跟你說話。
當我們討論的不是陪伴照顧，而是國家政策，我們想要的也是叫機器人分析資料好讓人類做出更明智的決策，而不是讓機器人因為擁有心智而獲得自由權和公民權，然後參與投票。至少目前而言，人類期待機器人服務人類，而不是跟人類平起平坐，而我們也沒理由沒事跑去創造一個可能與人類競爭生存空間和資源的物種。
不過這些考量涉及的眾多界線，不見得都很容易就能畫清楚。例如，若你希望機器人成為好的照護者和陪伴者來服務人類，你可能發現這機器人最好還是要有點情感表現，因為情感服務是照護和陪伴的重要成份。然而，當這些情感表現「有效」，讓人類真的受到安慰，人類是否也至少在情感上認為眼前的機器人有心智了呢？
事實上，現在類似的事情已經發生了，有些人對語言生成式AI產生感情，因為對他來說，比起身邊的人，AI在陪伴安慰這些事情上表現得還比較好。
機器人廣泛的擁有心智和自主性，這對人類來說不見得是好事情，因為這可能違背我們製造機器人的初衷。然而，隨著人類期待機器人直行的任務越來越多樣、細膩甚至私密，我們可能很難確保：人類期待機器人做的所有事情，都不需要心智和自主性。
最後，如果連現在的Chat GPT都足以說服人相信它有心智，甚至讓人能（我還是堅持補充：單方面的）跟它談戀愛，那麼我們會更快遇上的真正問題或許是：我們人類可能很難阻止自己大規模的相信機器人有心智和自主性。●
機器人雷克斯
The Runaway Robot
作者：萊斯特・德爾・雷（Lester del Rey）
譯者：謝靜雯
定價：380元
【內容簡介➤】
作者簡介：萊斯特・德爾・雷（Lester del Rey）
美國科幻作家、編輯、評論家。與戴蒙・奈特（Demon Knight）共同編輯《科幻論壇》（Science Fiction Forum），推動科幻文學走入主流。與第四任妻子創立出版品牌，喬治・盧卡斯（George Walton Lucas Jr.）欽點授權《星際大戰》（Star Wars）官方小說，科幻大師艾薩克・艾西莫夫（Isaac Asimov）《基地》系列（The Foundation Series）重要推手。
擅長以科幻探討人性，探索科技與道德、宗教的模糊分界，尋找人類與機器共享的關愛與情感，相信一部好的科幻作品必須拒絕被傳統主流價值所框限。1972年獲頒E. E. 史密斯紀念獎，1990年獲頒星雲獎大師榮譽。1996、2014、2018年以中、短篇作品入選追頒雨果獎。
推薦作品有《機器人海倫》（Helen O’Loy）、《神經危機》（Nerves）、《當世界毀滅》、（When the World Tottered）、《放逐在火星》（Marooned on Mars）與《第十一誡》（The 11th Commandment）等。
手指點一下，您支持的每一分錢
都是推動美好閱讀的重要力量
定期贊助
單筆贊助
300
500
1,000
成為Openbook贊助之友
300
500
1,000
成為Openbook贊助之友
朱家安（哲學雞蛋糕腦闆）
2025-09-22 18:00 機器人雷克斯, 哲學思辨, 心智