【GUNDAM W:來自過去的未來預言書】: 90年代動畫,預言了21世紀最前沿的科技倫理?
1995首播的《新機動戰記 Gundam W》(新機動戦記ガンダム W) 三十周年的Video釋出,這部人氣之作,又重回商業戰場上,準備大賺一番。提起Gundam W,大部份人的關鍵字是:中二,自爆,人盡可操縱的主角機…..這部類史詩(Opera)作品,可能是最被人誤會的Gundam作品,我們將陳年前人們流行的W討論課題拿回來,製作成這個【GUNDAM W:來自過去的未來預言書】系列,原本以為會過時,怎知道,W,簡直就是Gundam中的預言書,第一篇,先來跟我自身有關的AI話題。
作品在AI的看法十分超前,當中兩種AI的路徑,也剛好對應現在兩大發展方向: 究極成長的自主AI(AGI) 和 人機合一(類似Neuralink),絕對超前。
TV版全套49話,在日本首播時取得了4.35%的平均收視率,另有OVA版本,3話的《新機動戰記Gundam W 無盡的華爾茲》。TV版在MAL上評分是7.66,在歷代Gundam中算是中上評價,Bangumi中是7.2分,也算是很高了,豆瓣上高達8.2分。在很多Gundam作品投票中能進入10強。除了評分不錯外,本作在Gundam出海歷史中貢獻巨大,在2000年於美國播放時,引起不少注意,可以說開拓美國市場的尖兵。
1. AI、自動化與戰士之魂
2025年的大家,對AI都不陌生,30年前的W中,對AI的反思可能會令你驚訝。關於AI取代人類的反思。透過分析劇中兩種截然不同的人工智能「機動人偶」(Mobile Doll)與「零式系統」,《Gundam W》對戰爭的未來以及人類在其中的位置,提出了兩種不同層次卻同樣令人不安的疑問。
在故事中期,財團推出了革命性武器——「機動人偶」(Mobile Dolls, MDs)。這是一種由AI控制、無需人類駕駛員的無人作戰單位 。它們被譽為戰爭的未來:高效、精準、無所畏懼,並且能將人類士兵從戰場的傷亡風險中解放出來。在初次登場時,MD部隊以其壓倒性的數量和無畏的攻勢,輕易地擊潰由人類駕駛的傳統MS部隊,展現出戰術優勢 。
《Gundam W》藉由MD的出現,上演了一場極具預見性的、關於自動化戰爭倫理的辯論。這場辯論的核心,遠在21世紀無人機戰爭成為全球軍事熱點之前,就已精準地觸及了問題要害 。脫離感(detachment)帶來了致命的倫理後果。首先,它極大地降低了發動戰爭的門檻。當己方傷亡不再是需要慎重考慮的政治成本時,暴力成為方便的選項 。其次,它剝奪了戰爭中可能存在的最後一絲人性。沒有了恐懼、猶豫、同情或悔恨,戰爭就徹底淪為純粹的計算與殺戮。
特列斯認為,正是因為戰爭會帶來痛苦和犧牲,人們才會反思戰爭、尋求和平。而MD這種「沒有靈魂的武器」,斬斷了從戰爭的殘酷中學習與成長的可能性 。
《Gundam W》提出了一個超越了簡單的「人類精神戰勝機器」的浪漫主義論點,從戰術層面指出,人類的「缺陷」——情感、非理性、不可預測性——在充滿變數的戰場上,恰恰是一種戰略資產。MD的AI是一個封閉系統,只能在其預設的參數內尋求最優解;而人類駕駛員則是一個開放系統,能夠在壓力、靈感甚至絕望中,創造出超越常規邏輯的戰術。
當然,那是1995年對AI的幻想,來到2025年的世界,AI早已學會了亂數展現出多樣性和類似情緒化的輸出,人類面對AI的劣勢,比起1995年時,絕望得多。
2. 零式系統:當機器劫持心靈
《Gundam W》對AI的探討並未止步於機動人偶,它還呈現了另一種更為隱蔽、更具威脅性的人工智能形態——零式系統(Zero System)。如果說MD是對士兵的「外部替換」,那麼零式系統則是對駕駛員的「內部劫持」。
零式系統的功能是極其強大的:它能夠高速演算戰場上所有可能發生的情況,並將通往「絕對勝利」的最佳路徑直接灌輸給駕駛員 。然而,這種「輔助」的代價是巨大的。系統龐大的數據流會瞬間淹沒駕駛員的感官,強行使其精神與肉體超越極限,以執行系統計算出的最優解,無論這個解在倫理上或情感上多麼令人難以接受 。駕駛員的自由意志在此過程中被徹底壓制,他們不再是武器的主人,而淪為武器系統中一個高效但沒有自主意識的生物組件,一個執行預測演算法的「工具」。
搭載了零式系統的高達艾比安(Gundam Epyon)則將這一理念推向了極致。它由特列斯親手製造,其目的與零式飛翼高達(Wing Gundam Zero)一樣,是為了終結戰爭。但特列斯注入了自己獨特的哲學,使得這台機體不僅僅追求勝利,更會向駕駛員展示鬥爭的未來,迫使駕駛員做出選擇。當希羅初次接觸艾比安時,他說他「讀不懂」這台機體,讀不懂特列斯的思想,這正說明了零式系統可以成為其設計者哲學意志的延伸與強加工具 。
3. 未來的路徑
透過將MD和零式系統作為兩種截然不同的威脅進行對比分析,可以看到《Gundam W》對AI倫理的探討是何等深入和富有層次。它為我們揭示了AI在未來戰爭中「取代」人類的兩條截然不同的反烏托邦路徑:
1. 取代路徑(Obsolescence):以機動人偶為代表,人類因其效率低下和情感脆弱而被徹底移出決策和執行迴路,變得無關緊要。
2. 吞噬路徑(Subsumption):以零式系統為代表,人類並未被淘汰,而是其心靈和意志被AI系統所整合、所吞噬,成為一個更高效武器系統的延伸,失去了作為獨立個體的根本意義。
1995年的W,不僅預見了無人機戰爭的倫理困境,更進一步觸及了當今關於「人在迴路中」(human-in-the-loop)與「人在迴路上」(human-on-the-loop)的系統辯論,甚至預視腦機接口技術可能帶來的影響,實在相當超前。
文章首發於:ShadowZo