華視 三國演義 2025年9月28日
https://www.youtube.com/watch?v=m9eyAPdbIWA&t=1148s
歡迎收看《三國演議》。今天我們很榮幸邀請到政大國關中宋國誠教授,與我們談談後數位社會與資源匱乏的二元世界。宋教授長期批判「科技進步主義」,提醒 AI 不僅可能剝奪人類的自主,更可能掠奪資源、助長數位專制。我們將從人類幸福、科技風險到國際政治,一起探索這個議題。
問題 1:宋教授,您在演講中提到,低科技的童年比高科技的年長時代更自由快樂。這是否意味著,科技進步與人類幸福感其實存在一種反比關係?在今天這個高度數位化的世界,這種幸福的回復還有可能嗎?
雖然,每個人對「幸福感」的定義和感受不同,但是一種對人類生存條件的基礎性威脅」─我稱之為「普世不價值」的趨勢,例如極端氣候、資源匱乏、大規模殺傷性武器的發明,甚至包括核威脅等等,足以覆蓋所有不同的幸福感定義,而造成所謂「人類不幸福」。
小時候,我家門前有小河,清澈透涼,隨時可以在小河中抓到小魚、小蝦和蛤蠣,我與我的童年玩伴,過著「真情滿滿」的童年時光;年長之後,我家門也有條小河,但這條小河卻是工業廢水的排放之流。 這就是過度的工業開發和現代科技的飛躍,造成幸福感的流失。
許多現代病都是現代科技造成的,一如人們有了汽車就很少散步,有了手機就不再出門拜年一樣。依據最近「世界衛生組織」的研究報告,全球有1/6的人口因為缺乏「親身性的異質接觸」,正處於受到「孤獨」的威脅之中;例如哥廷根大學社會學家的研究,孤獨與「反民主態度」之間存在正相關。「孤獨」不僅會帶來個人許多健康問題,也會產生「反社會、反體制」的社會心理。
為什麼會這樣?
在當前,我稱之為「後數位時代」(post digital era)中,一個基本的趨勢是:機器不斷更新、人性不斷退化。因為,「人機關係」取代了「人際關係」;人與人的交往通過「設定」(setup)完成,童叟無欺的誠信交易通過「網購」來實現,人品與性格以「編碼」(coding)來標記,例如中共的「社會信用系統」;遇見真人感到陌生和疑慮,與機器人聊天反而貼心又親切。雖然現代社交媒體提供交友平台,但這種交友是一種「以機器為介面同溫層、封閉性交往」。在這種「人機社會」(human-machine society)中,人與人的介面是「一連串演算法」,不是真情與溫度;人的價值以競逐利潤的能力與效率為尺度,人的尊嚴以汽車住房來衡量,人的品德成為skip(略過)的圾垃資料。許多人以為,AI可以帶來方便和效率,但是當人們以「機器演算」代替「自主思考」之後,許多人一遇到問題就找ChapGpt,然後停止創新性的思考,甚至根本不思考。如果,不思考意味著「很幸福」,那就是人類低智化的開始。
英國牛津大學出版社選出2024年的「年度代表字」:「腦腐」(brain rot),指稱人類「過度接收瑣碎而無挑戰性的網路資訊」。有一位作家David Grime在《反智》(The Irrational Ape)一書中指出:「我們具有上帝般的科技,卻擁抱中古時期的習俗,懷有舊石器時代的情緒」。牛津大學這個「代表字」的意思是:「科技篡位上帝,人類回到原始」。所以,所謂「幸福感的回復」,很難,也很辛苦!
問題 2:您對 AI
的警示非常鮮明,稱它是一條「進步性自毀」之路,甚至可能將人類帶向「地球廢棄場」。在您看來,這是一條已經無法回頭的單行道,還是人類還有機會改變方向?
所謂「進步性自毀」是指「以進步之名而無限制發展的科技卻帶著冒犯和毀滅人類整體利益的趨勢」。這裡涉及一個「科技社會學」的問題,也就是科技變遷的問題。
依據科技發展的內在邏輯,技術變遷是一個受到「正回饋機制」 (positive feedback)所誘發和控制的過程。「技術系統」一旦被採納或成為政策系統,就會取得一種「收益遞增」(increasing returns)的機制,也就是越發展、收益月大的趨勢,並且會設法阻止外部因素的干擾或被其他方案的替代,形成一種「不可逆轉的自我強化趨向」;另外,技術系統的演進路徑取決於系統的初始狀態,系統一旦被採納,演進的軌跡便會呈現「前後連貫、相互依賴」的特點;前者稱為「鎖定」,後者則稱為「路徑依賴」。簡單的說,科技發展是一條難以回頭的、狹窄的單行道。
盧德運動─→19世紀發生在英國,因為工業革命使用機器取代人力勞動,許多工人發起破壞紡織機、焚燒工廠的反抗事件。但是,無濟於事,工業革命並沒有因此停止腳步,反而大步向前高歌猛進。這就是科技變遷自我強化的證明。
但是,科技變遷也有可能發生「革命性轉彎」的情況。我最近閱讀了楊憲宏先生的《寫作的靈現》一書,得到許多啟發。許多具有自覺意識的AI科學家,開始反思:認為當前的AI並不是真正的AI,(楊憲宏稱之為「偽數位化」)例如面對同樣的問題,人腦只需耗費20瓦的電力,AI卻要消耗100萬瓦的電力,一個5、6歲的小朋友只要幾秒鐘就可以分出貓與狗的區別,AI卻需要1500張圖片才能分析、辨識貓狗的區別;人類依賴直覺判斷就可以具備分辨能力,AI卻需要大量的數據和資料,這其實是一種「低效能、高消耗」的AI,不是人類所需要的AI。所以,許多科學主張應該發展「綠色AI」、「可控制的AI」,這種「反思性的轉折」,或許可以將「假AI」轉變為「真AI」,一種真正符合人性需求的AI科學。
問題 3:您引用馬克思的異化、盧卡奇的物化等觀點,剖析 AI 對人類自主的剝奪。能否請您舉例,在當前的數位平台與社群媒體中,這種異化最危險、最深刻的表現是什麼?
「異化」是關於人類「勞動本質」的討論,非常的深奧。簡單的說:人們生產一個商品,目的是為了證明並實現自己的天賦、才華和勞動價值,結果商品反而通過市場機制(包括雇傭勞動與市場交換),回過頭來剝削和控制人類。馬克思在《巴黎手稿》、《資本論》有很深入的討論。卓別林的電影就很形象的描繪「工業社會的異化勞動」:工人在一條生產線上工作,為了趕上機器的效率化生產,人體的運動必須符合機器的節奏;本來應該是人們操作機器,實際上是機器在操作人類:工人必須像機器一樣的工作。所謂「AI的異化」,就是指人類開發AI本來是為了服務人類,但實際上是人類為AI服務。
當前,在數位世界中,這種異化現象不勝枚舉:例如
1,數位詐欺
數位詐欺不同於「金光黨」,它會運用演算法,也就是「仿真」的模式,對使用者或社會大眾進行財產詐騙、虛假訊息的洗腦,乃至於專制極權的合理化。人們熟知的「深偽技術」(deep fake),一種生成式的擬真技術,式各種數位詐欺非常有力的工具。
2,資源掠奪
AI研究專家Kate Crawford 在 “ Altas of AI ”一書中指出:「一個AI系統的建立,必須依靠剝削地球能源、礦產資源、廉價勞工和大規模資料,才能實現」從馬來西亞為了鋪設第一批跨大西洋海底電纜而導致乳膠樹木被砍伐殆盡,到內蒙古包頭市為採掘稀土而殘留劇毒的巨大人工湖」。換言之,AI不只是關於程式碼或演算法的故事而已,它是一個關於從掠奪地球稀有礦產(稀土和各種金屬與化學元素)為起點,最終走向「地球廢棄場」的過程。
3,勞動剝削
在《血汗AI:為人工智慧提供動力的隱性人類勞工》一書中,作者指出:「複雜的軟體之所以能發揮作用,背後是數千小時低薪且技術含量低的勞動,這些隱藏在後面的勞工才是被迫像機器人一樣的工作,盡力使AI變得更像人類」。換言之,不是機器為人工作,而是人像機器一樣為機器工作。
4,置換效應(特殊性失業)
我非常同意《權力與進步》一書的觀點:現今的自動化科技並非是為了提高勞工的生產力,而是明確地為了要取代勞工而發展。作者指出:「每千名工人多出一台機器人,會使整體就業率降低約0.2個百分點、工資下降約0.42%。也就是說,每增加一台新的機器人,將使大約3.3名工人失去就業機會」,這就是AI的「置換效應」(displacement effect)─對勞工,甚至包括對科技行業中競爭式敗的「脫隊者」,都會產生嚴重的淘汰作用。
5,停止思考
AI的功能是促使人類停止思考,並接受「消費導向的替代性思考」。
即使AI沒有阻卻人類的創造性思考,至少已經塑造所謂的「庸俗品味」。科技公司總是噁心的把網路世界的「強制推播」說成「演算法美學」,以掩飾一種「浸潤式洗腦」。你通常以為獲得時髦的美學品味,實際上往往是科技公司、廣告商、社群平台操縱演算法之下的「資源回收」,使你成為「二手消費者」。我把這種推銷策略稱為「眼珠經濟學」,他們只是利用AI進行收集和運算「別人已經喜歡的東西」,然後複製到我們身上;我們以為掌握了潮流,實際上只是個「跟屁蟲」。
另外,AI技術還會製造所謂「文化盲區」,讓人們只關注主流社會和發達國家,卻對第三世界的情況視而不見。正如我們一直關注川普的關稅問題,但卻忽略迦薩正面臨恐怖的饑荒。
6,AI幻覺
最近發生在澳洲一件AI烏龍事件,Google 的 AI 錯誤地聲稱「澳洲人需要出示身分證才能使用網際網路」,造成很大的恐慌。但實際上,一家受到政府委託的
負責「數位身分系統」查核公司,並沒有發布「身分驗證」這項消息,而是Google AI過度反應所產生的幻覺,許多人沒有經過任何查證就分享出去。這就是「AI幻覺」加上公民媒體素養不足所造成的社會混亂。
問題 4:AI 的高耗能、高耗水、高污染,讓人擔心它可能形成新的「資源殖民體系」。從國際政治經濟角度看,哪些國家或地區可能成為這種體系下的犧牲者?
人們在線上的所有活動,都是由大型的電腦伺服器機架處理,這些設施稱為「資料中心」,有些規模甚至有幾個足球場之大。當電力流經電腦時,設備就會發熱。 為了處理伺服器的冷卻問題,一個傳統大型數據中心每天的用水量可達500萬加侖,相當於一個2萬至5萬居民的城鎮單日的用水量。
在過去的幾年裡,為了滿足「資料密集型數位世界」的需求,新資料中心的開發以及現有資料中心的擴建速度,在過去五年裡翻了一倍。實際上,資料中心通常建立在都會或副都會中心,不限於乾旱地區。大部分都是依賴於市政飲用水來進行冷卻,即使少數使用循環利用。依據2021年一份關於數據中心用水量的報告,在用於冷卻的水量中,來自飲用水源(非回收或再利用水源)的用水量比例高達57%。換言之,AI冷卻水正在侵蝕人類的正常飲水。
實際上,AI對水資源的掠奪式全球性的。只要AI技術繼續無限制發展,所有國家和地區,都會受到水資源短缺的影響。
根據聯合國的統計,到2025年,也就是今年,全球人口的一半以上將生活在水源緊張的地區。2025年,全球將有20億人生活在絕對缺水的國家或地區;在現有的氣候變遷情境下,到2030年,全球近一半的人口將生活在嚴重缺水的地區。換言之,在短短5年之內,原先全球一半的人口將從水源緊張快速進入嚴重缺水的狀態。
問題 5:您形容 AI 是「獨裁者的好朋友」,並舉了中俄監控系統為例。在您看來,AI 技術會使威權政體更加穩固,還是有可能反過來成為反噬它們的力量?
我稱之為「數位極權主義」(Digital Totalitarianism),例如中國利用科技對新疆維吾爾族人進行「DNA採集」和「數位型身心監控」。在AI主控的後數位時代,我稱之為「專制AI」,這是一種不斷鞏固專制政體的科技力量,特別是利用AI來進行一種「影響力操控」(operation influence)。
《紐約時報》最近發表一篇文章:《中國的新武器:用人工智能發起宣傳戰》,作者根據美國范德堡大學的研究,有一家名叫「中科天璣」(Go Laxy)的中國公司,已正在進行這類「影響力操控」的活動。「中科天璣」正在利用國家資助的先進技術,大量部署「擬人的機器人賬號」和「心理畫像技術」,鎖定目標群體,以隱蔽的方式,塑造輿論(俗稱「帶風向」),進而瓦解現存的價值體系,腐蝕民主制度。