勵志基金會演講
2025/08/09
我對未來世界的宏觀看法
─「後數位時代」(Post-Digital Era)與資源匱乏的二元世界
演講人：宋國誠博士
“我們的技術顯然已經超越了我們的人性，這讓人不由得毛骨悚然”
─愛因斯坦─
“機器人將把任何事情做得比人類更好”
─伊隆‧馬斯克─
前言 二元分裂的世界：AI高歌猛進/資源已告匱乏
首先，我來介紹今天的演講者，也就是我自己。
我之所以選擇這個演講題目，一方面是長期以來我對「科技進步主義」的質疑和批判。我覺得我的「低科技的童年時代」，要比年長之後的「高科技的年長時代」，要更加自由、從容和快樂。小時候，我家門前有小河，清澈透涼，隨時可以在小河中抓到小魚、小蝦和蛤蠣，我與我的童年玩伴，過著「真情滿滿」的童年時光；年長之後，我家門也有條小河，但這條小河卻是工業廢水的排放之流。
我天生抱有一種對「霸權」的厭惡，無論是政治霸權或科技霸權，我始終認為沒有對弱勢的剝削就不會有霸權；但我不是一個「情感主義者」，而是「科學人文主義者」。在當今的數位時代，科技剝削的形勢更加多元化和隱蔽性；其中AI的武器化、軍事工具化、弱民主化，以及對勞動者更加深入的身心剝削，尤其引起我作為一個知識份子的關切。
所謂「後數位時代」(有人稱之為「第四次工業革命」)，我把它定義為「AI異化社會」，它是繼網路通訊(網路社會)之後，受到AI主控(甚至是「對人類的反控」)
的新時代。這是一個科技權貴財富無限積累而環境資源相對剝奪的時代。
我們可以把AI(人工智慧)理解為一種運用機器處理材料，以生成決策、預測與建議等等輸出結果的技術。從個人電子郵件各種填寫功能，到無人機戰爭中指引目標的武器系統，都屬於AI的範疇。實際上，AI是各種科技的混合體，包括電腦視覺、模式識別、自然語言處理；他所面對的，其實不是當代人類，而是緊隨著像音速般快速發展的AI技術的「後人類」(post-human)。後人類，是指從「人機共生」到「人機競爭」的人類世代。
當前，對AI的評價出現兩極化，一方代表經濟成就、科學進步與財富的集中，一方代表失業、專制決策與技術無產階級。隨著「科技人文主義」的警惕與反思，AI對人類的宰制已經開始獲得重視。簡單地說，人類未蒙AI之利，先受AI之害。
一方面，在科技狂熱主義的推波助瀾之下，世界正在分裂為掌握世界財富的科技菁英集團，以及被科技列車甩出軌道之外的AI文盲階層。許多研究表明，AI正在助長世界的階級鴻溝與貧富差距。人們看到AI，總是一顆閃閃發亮的大腦，殊不知，我們都只是「餵養機器」(feeding the machine)的血汗勞工，我們不斷幫助維持AI數位基礎設施的呼吸和血液，不斷為機器賣命與服務。換言之，AI是維持全球不平等的權力系統，它豢養的是數位經濟中的權貴階級，服務於那些把它創造出來的人，而不是我們這些普通大眾。AI增強並鞏固富人與權貴的權力，也將現存的社會偏見嵌入各種數位歧視的形式中。
另一方面，AI也助長一個「超級過度工業化」(excessively industrial society)的來臨。這個社會是一個「異化社會」(alienated society)，這是一個人類發明了機器但機器反過來控制人類的「倒立社會」。由於AI是一種「資源高消耗」的產業，它對地球資源的掠奪已經超出人類的「基本生存線」，使地球資源出現了生存底線上的稀缺狀態。這不是資源分享的公平性問題，而是全人類都面臨拚死爭奪的匱乏性問題。
或許有人認為，現在的AI機器人雖然具有深度學習能力，但它還無法像人類一樣「憑空想像」，它的深度學習能力只侷限在現有的數據、知識、預言和結構上。但是這種假設，必須具備兩個前提：一是人類的利益(包括願望與創新)與AI的功能之間取得「目標的一致性」，專業術語來說，這稱為「一致性問題」；二是必須具備完整的「AI自律」，也就是AI接受人類的控制。但是，既然今天的AI機器人能夠讀懂人類提出的問題，那就有可能通過AI學習而具備自我意識。換言之，AI有可能「抗命」，或是因為人類數據輸入或指令失敗之時，可能就是AI失控的一天。
本次演講，我並不反對AI，的來臨，而是著眼於這個由AI主控的「後數位時代」所帶來的負面衝擊與危機。AI無辜，但盲目發展AI以及人為不當的意圖，可能使AI失控而成為反噬人類的利器。AI的負面性，包括對人類創造性思維的阻卻與「致懶」作用，雖然AI不會阻卻所有人的思考，但會阻卻許許多多「AI成癮」者懶於思考；其他例如AI的高速發展對環境和稀缺資源的掠奪，特別是水資源的榨取，AI助長假訊息與各種「數位詐欺」行為，在地緣政治上的武器化，以及「AI專制」體制下的數位集權主義。最後我提出「民主AI」應對「專制AI」的必要性，人人都應該對AI抱有批判性的思維，以避免AI強大的力量變成傷害人類的工具。
我要強調的是，當今AI的快速發展，會決定我們未來世界的面貌。AI不但會加速所得不均、失業加劇、思想扁平化、隱私侵犯和智財竊取、環境剝削、中產階級塌陷，也會增強獨裁者社會控制的能力，不論對於經濟或民主社會的影響，都是偏向於負面的。有些人以為AI是我的好朋友，天天賣力為我工作，但AI也是專制獨裁者「最好的朋友」。
我非常同意《權力與進步》一書的觀點：現今的自動化科技並非是為了提高勞工的生產力，而是明確地為了要取代勞工而發展。作者艾塞默魯(Daron Acemoglu)和賽門‧強森(Simon Johnson)指出：每千名工人多出一台機器人，會使整體就業率降低約0.2個百分點、工資下降約0.42%。也就是說，每增加一台新的機器人，將使大約3.3名工人失去就業機會。而對不同人口群體的影響也不盡相同：自動化對男性的負面影響大於女性；對於教育程度低於大學的人來說，自動化對就業和工資都有負面影響，但對擁有碩士或博士學位的人來說，卻沒有正面效應。
兩位作者把AI科技稱之為「不過如此的新科技」("so-so" new technologies)，因為AI發展至今，大部分還只停留在把可被測量與描述的人類行為，運用程式加以模仿、處理的層次，它太強調模仿人類的智慧，因此頂多只能當作人類心智可處理事物中某些「子集合的次佳替代方案」；但是AI所產生的「置換效應」(displacement effect)─AI對勞工的淘汰現象，卻不可忽視。
一，AI：史上最大規模的掠奪
AI起源於對人類一顆「無極天才大腦」的崇拜，它正經歷「仿人腦」、「類人腦」到「超人腦」的演進歷程；這是一種站在上帝的位置以上帝形象創造「仿上帝」之人類的創世紀神話。但這種「僭越上帝」的狂想，試圖以「數位宇宙」取代「真實宇宙」，這種危害和災難，已經被許多良心科學家、環保人士與人文主義者指證歷歷。
《新共和》(The New Republic)前主編富蘭克林‧福爾(Franklin Foer)在《沒有思想的世界》一書中指出：在全球三大壟斷企業─Amazon、Google、Facebook的控制之下，我們離開富有活力的智識生活已經非常遙遠，他甚至警告，這些科技寡頭利用消費貪食利潤是未來人類生存的最大威脅。這種無時無刻的操控，使我們忘記了科技企業的核心職責：創造思想。換言之，今天的AI技術，已經不再「創造思想」，而是代替並控制思想。他們不斷用「演算法」，牽制我們們該讀什麼新聞、買什麼商品、旅行走什麼路線，乃至把哪些朋友納入自己的小圈子。人們以為方便和簡單，實際上是接受控制和擺布。
二，機器學習代替人類思考
AI的功能是促使人類停止思考，並接受「消費導向的替代性思考」。當AI學習取代人類思考，人類將重返停止思考的蠻荒年代。在這種機器不斷更新、人性不斷退化的社會中，「人機關係」取代了「人際關係」；人與人的交往通過「設定」(setup)來完成，童叟無欺的誠信交易通過「轉檔」(convert)來實現，人品與性格以「編碼」(coding)來標記；遇見真人感到陌生和疑慮，與機器人聊天反而貼心又親切。在這種「人機社會」(human-machine society)中，人與人的介面是一串演算法，不是真情與溫度；人的價值以競逐利潤的能力與效率為尺度，人的尊嚴以汽車住房來衡量，人的品德成為skip(略過)的圾垃資料。當前的AI社會，競爭太多、合作太少，社會成為戰場，躁鬱和戾氣已成常態。
即使AI沒有阻卻人類的創造性思考，至少已經塑造所謂的「庸俗品味」。科技公司總是噁心的把網路世界的「強制推播」說成「演算法美學」，以掩飾一種「浸潤式洗腦」。你通常以為時髦的美學品味，實際上往往是科技公司、廣告商、社群平台操縱演算法之下的「資源回收」，使你成為「二手消費者」。我把這種推銷策略稱為「眼珠經濟學」，他們只是利用AI進行收集和運算「別人已經喜歡的東西」，然後複製到我們身上；我們以為掌握了潮流，實際上只是個「跟屁蟲」。
英國牛津大學出版社選出2024年的代表字：「腦腐」(brain rot)，指稱「過度接收瑣碎而無挑戰性的網路資訊」，正是這種「眼珠經濟/跟屁蟲美學」的最佳說明。
二，不是我們利用AI，而是AI利用我們
我們以為，我們在利用AI來完成我們的工作、實現我們的目標。實則不然，是AI在利用我們。它，AI，蒐集了我們在網路上留下的所有痕跡，包括我們的的品味、個性、消費傾向和政治立場，並通過一系列的規則(也就是演算法，algorithm)加以利用。所謂「演算法」，就是通過有限的程序或被規劃好的步驟，解決特定的問題或達成特定的目標。聽起來很棒，但實際上我們都成了「AI寶」，一個網路巨嬰。因為，是AI決定我們「必須」看什麼？而不是我們自己決定「應該」看什麼！在「必須」與「應該」之間，正是控制與自主的區別所在。
人們經常以為，AI總是無怨無悔的、從不疲倦的為人類工作，實際上，對於從事於AI底層工作的勞工來說，情況正好相反。在《血汗AI：為人工智慧提供動力的隱性人類勞工》一書中，作者指出：「複雜的軟體之所以能發揮作用，背後是數千小時低薪且技術含量低的勞動，這些隱藏在後面的勞工才是被迫像機器人一樣的工作，盡力使人工智慧變得更像人類」。換言之，不是機器為人工作，而是人像機器一樣為機器工作。
三，AI助長假訊息
許多研究發現，「真實資訊」很少會迅速擴散到1000人以上的群體，但虛假訊息的前1%，經過轉發，可以很輕鬆地擴散到10萬人的群體中。把真實資訊傳播給1500人所需要的時間，大約是把虛假資訊傳播給同樣數量的人所需時間的6倍，而且虛假資訊會被更多的獨立用戶轉發。換言之，虛假資訊的傳播範圍明顯比真實資訊更快速而廣泛。是什麼力量推動這種虛假訊息快速傳播的效果？
在AI技術的推動下，機器人成為製造虛假新聞的重要推手。機器人會不斷地提到一些有影響力的人，給這些人推送虛假新聞，讓有影響力的人來轉發這些虛假新聞，一旦它們成功了，這些虛假新聞就會被放大，而且會被合理化，我稱之為「權威性傳播」。吊詭的是，在虛假新聞的傳播過程中，所謂「意見領袖」往往與受到演算法操縱的機器人扮演了「共生」的角色：於是通過誘導人類，AI機器人實現了虛假新聞的傳播。換言之，「資訊泡泡」已經當代人日常生活的一部分，我們都被假訊息愚弄和操縱，被困在不斷被過濾並且強化偏見的資訊氣泡中難以脫身。
另外，AI技術還會製造所謂「文化盲區」，讓人們只關注主流社會和發達國家，卻對第三世界的情況視而不見。正如我們一直關注川普的關稅問題，但卻忽略迦薩正面臨恐怖的饑荒。
四，AI是一種高耗能產業
AI本身是一種電力高耗、高碳排放、水源掠奪、環境污染與非永續發展的產業。換言之，AI將帶來人類電力與水源耗竭的厄運。
AI研究專家Kate Crawford 依據科學數據與親身採訪，在“Altas of AI”《人工智慧最後的秘密(台譯)》一書中指出：「建立AI系統，得靠著剝削地球能源、礦產資源、廉價勞工和大規模資料」；「科技業對稀土礦物、石油和煤炭的需求龐大；但是真正的採掘成本從來都不是由產業本身來負擔」。「在軟體層面，要建構自然語言處理和電腦視覺模型需要消耗大量能源，而爭相推出更快更高效的模型，也促成了貪婪的運算方法，擴大AI的碳足跡。從馬來西亞為了鋪設第一批跨大西洋海底電纜而導致乳膠樹木被砍伐殆盡，到內蒙古包頭市為採掘稀土而殘留劇毒的巨大人工湖」。換言之，AI不只是關於程式碼或演算法的故事而已，它是一個關於從掠奪地球稀有礦產(稀土和各種金屬與化學元素)為起點，最終走向「地球廢棄場」的過程。
五，AI：污染性的吃水怪獸
在此同時，AI產業也是一隻至今難以遏止的吃水怪獸。從電子郵件、串流影音到生成式文章或「深度偽造」(Deep fake)，這些線上活動都是由大型的電腦伺服器機架處理，這些設施稱為「資料中心」，有些規模甚至有幾個足球場之大。當電力流經電腦時，設備就會發熱。
為了處理伺服器機架的冷卻問題，即使最一般性的估計，一個傳統大型數據中心每天的用水量可達500萬加侖，相當於一個2萬至5萬居民的城鎮單日的用水量。依據《英文大紀元時報》一項綜合性研究的報導，AI平台Chat GPT在生成10至50條中等長度回覆時，消耗的水量相當於一瓶500毫升的飲用水；依據全球知名數字營銷平台Semrush今(2025)年5月份的數據，Chat GPT每月的訪問量約為52.4億次；而依據Open AI自己發表的數據，Chat GPT每月回應約300億次的查詢，而它只是眾多AI機器人中的其中一個。
另依據2021年一份關於數據中心用水量的報告，在用於冷卻的水量中，來自飲用水源(非回收或再利用水源)的用水量比例高達57%。換言之，AI冷卻水正在侵蝕人類的正常飲水。另一方面，一些用來冷卻系統組件和消防抑制泡沫的「製冷劑」，含有污染性的「全氟烷基」和「多氟烷基物質」(PFAS)，這些被稱為「永久性化學物質」不會自行消除，甚至會形成生物積累，即使在濃度極低的情況下也會對人類的內分泌系統造成干擾。
六，AI對水資源的耗損
當然，地球資源趨於匱乏已不是新鮮的話題。我這裡只談AI與水資源匱乏的關聯性。
依據Veolia的研究，資料中心的需求量非常大。遠端工作和線上會議的興起，串流媒體網站和線上遊戲平臺使用的增加，以及5G等新興技術所產生的大量資料，都對世界各地資料中心提供的計算能力產生了更大的需求。因此，在過去的幾年裡，為了滿足新的資料密集型數位世界的需求，新資料中心的開發以及現有資料中心的擴建速度急劇加快。事實上，超大規模資料中心的數量，在過去五年裡翻了一倍。一直以來，資料中心都是依賴於市政飲用水的供應來進行冷卻的。換句話說，資料中心的爆炸性發展和擴張，導致了水資源日益匱乏的局面持續惡化。
資料來源：https://www.techbang.com/posts/118057-ai-water-data-center
依據the register的研究，在2023年之中，Google就消耗212億升水，其中AI用水量激增20%；光是和Chat GPT聊天就非常浪費水，預估2027年全球AI耗水可能達到66億立方公尺。
依據科技媒體工作者netizen的研究，Chat GPT每進行一次簡單的對話，需要喝一瓶500毫升的水，一個問題大約包括20-50個問答。但這只是針對一個約1750億參數的GPT-3模型；以今天的標準來看，GPT-4估計擁有1.7至1.8兆個參數，換句話說，聊天機器人需要喝更多更多的水！
七，在AI的另一個世界：「水資源匱乏」(water scarcity)
根據聯合國的統計，到2025年，也就是今年，全球人口的一半以上將生活在水源緊張的地區。2025年，全球將有20億人生活在絕對缺水的國家或地區；在現有的氣候變遷情境下，到2030年，全球近一半的人口將生活在嚴重缺水的地區。換言之，在短短5年之內，原先全球一半的人口將從水源緊張快速進入嚴重缺水的狀態。毫無疑問，這對人類健康、經濟增長和生活水準已構成嚴重的威脅。
在AI產業高歌猛進之際，全球正在面臨資源分配不均的災難。換言之，AI的成就絕不是一般人以為只是驚豔、新奇或一場發財夢而已，它是人類走向「進步性自毀」的歷史路程。 人們也許認為，通過所謂「AI自律」可以獲得改善，但是主控AI產業的資本利得集團，他們不會自律！
八，AI的武器化
依據法國《世界報》(Le Monde)2025年6月28日報導，AI強力推動了臉部辨識系統發展，成為威權專制國家加強對人民監控以及壓制反對立場的武器，且多數系統設備來自中國大陸。中共透過補貼等優勢，持續加強相關AI監控技術的發展，並且無限制向全球專制國家出口，成為威權治理重要工具。對此，我稱之為「數位極權主義」。換言之，無論AI再怎麼無辜，它正在成為專制政權的幫兇。
除了中國之外，近年來俄羅斯也擴大安裝百萬具監視攝影機，約半數具備臉部辨識功能。在2022年侵略烏克蘭後，莫斯科當局還加碼投資，加強監控系統，例如監控並協助逮捕2024年3月出席著名異議人士納瓦尼葬禮的民眾。
中共早在2005年就設立「天網」監控系統，2016年啟動以臉部辨識系統為主的「銳眼」計畫，除加強對新疆等少數族群與反對者監控，也使大陸成為全球臉部辨識技術最大輸出國，成為威權專制國家打壓異己的工具。
更令人憂心的是，「AI武器化」已經成為當代國際衝突的火源，AI霸權爭奪戰已經成為國際戰爭的板機。換言之，AI不只是AI，而是國力爭霸的象徵、民族沙文的桂冠、地緣政治的引信。在專制陣營中，例如中國與俄羅斯，都在奮力開發「AI制導」的殺人武器，意圖破壞世界秩序與人類和平。一如AI科技只是少數技術菁英得利，多數人則是科技賤民一樣，未來一場AI戰爭不是假設，而是即將到來的現實。
九，「數位民主化」與「數位專制化」的對決
基本上，數位科技既不支持民主，也不反對民主。AI技術的發展也不必然要配合政府監控媒體、審查資訊、壓迫公民的需求，這一切取決於對科技發展方向所做的選擇。問題是，數位可以在民主社會傳播，也可以落入專制政體的手中。
自2014年以來，中國地方政府對於臉部辨識與其他類型監控的AI技術需求大幅提高，從中央到地方政府，一旦看到當地開始醞釀不滿或出現抗議活動，就會希望利用科技監控來維護治安。這就會引來「數位專制」的惡性循環：擁有龐大權力與資金的政府希望壓制異己，因此需要開發更多AI技術來控制人民，這種需求愈強，研究人員就會愈加開發新的AI技術來滿足政府專政的需求。壓制人民的AI 技術愈成熟就愈能得到專制政府的青睞。這就是增長型數位專制的不斷進化。
另外，由於AI無法做出道德判斷。如果過度依賴AI對法律的執行，那就會造成「道德的外部化」，也就是人類放棄自主性的道德判斷，將它轉移為「機器判斷」。當這種「數位執法」不再以尊重公民的自主性為核心價值，而是通過技術化的高效率手段進行全方位監控與懲罰，這就會降低公民的參與感與責任感，形成對「非道德化的數位執法」的屈服。人們不再依據道德的自覺性，反而陷入一種與數位科技的「追逃遊戲」。我們已經看到交通科技執法經常造成「道德困境」─例如為了讓路救護車而闖紅燈，但依然受到交通規則的處罰。
有鑑於此，全球民主社會提出了「民主AI」的需求。Open AI於近日宣布，將在美國政府「Stargate」計劃的協作下，提出了「OpenAI for Countries」，為各國提供安全的數據中心建設，以符合當地的數據主權要求，同時也幫助各國在全球AI競爭中占據有利位置，強化民主價值與人權保護，對抗專制體制對AI技術的濫用。
十，結論
在「後數位時代」，世界已經分裂成「科技利益集團」和「生態匱乏難民」的二元世界，形成「科技集團」富者越富、科技資源掠奪下的「資源難民」窮者越窮的狀態。全球知識菁英、科學家與社會大眾，都應該正視這個後數位時代所帶來的「技術優勢/資源不公」的二元裂痕，為「民主AI」貢獻自己的心力。
