最近，在西方科技界，英文多了一個時髦詞“P(doom)”，指人工智能導致世界末日、文明滅絕的概率（the probability of doom）。通常用來描述人們對先進AI最終導致人類滅絕或其他災難性後果的主觀估計。隨著人工智能（AI）正以前所未有的速度改變人類社會，越來越多的研究人員開始追問：如果有一天，人工智能的能力超越人類的控制範圍，人類是否可能成為自己創造的技術的受害者？
整理：嘎弩
AI的能力超越了人類想像
DemisHassabis是谷歌DeepMind的董事長與共同創辦人，同時也是母公司 Alphabet 的首席科學家，他曾與另一位科學家一起運用AI模型，成功預測了幾乎所有已知蛋白質的三維結構，解決了困擾科學界 50 年的蛋白質摺疊巨大挑戰，其成果開放給全球科學家使用，Hassabis也因此獲得2024年的諾貝爾化學獎。
另一個例子，2026年9月8日，OpenAI宣布，其內部研發的AI系統在約88小時內，利用約1萬個並行運作的AI代理人，提出了NS方程存在性與光滑性問題的解答。這是克雷數學研究所（Clay Mathematics Institute）設立的七大“千禧年大獎難題”之一，長期以來一直是數學界最具挑戰性的未解問題之一。
NS方程用於描述液體和氣體的運動，是流體力學的基礎。它不僅關係到水流、空氣流動和湍流研究，也與天氣預報、航空工程等領域密切相關。數學家長期試圖證明，在特定條件下，三維流體運動的數學解是否始終保持平滑，還是可能在有限時間內出現奇異性，即某些量變得無界。
外界報道估算，OpenAI這次計算的累計成本可能達到約2,250萬美元。OpenAI則表示，不打算申領這項難題的100萬美元獎金。
對在這領域研究了數十年的數學家來說，他們所追求的聖杯已被AI輕易奪走，誰還有無勇氣、興趣和野心繼續研究數學？而同樣的問題也可以出現在物理學家、化學家、生物學家，甚至經濟學家的生涯裡，最終AI可能會摧毀科研，因為它先清洗了人類科學家。
以科學研究而言，靠AI迅速獲得諾貝爾獎已經不是神話。
美國著名智庫之一的布魯斯金研究院上個月發表一篇學術論文，指出從2025年至2032年止，AI資料中心和相關基礎設施的總投資將達10.3兆美元，約當美國同期GDP的3.6％。
這項投資占比是美國史上最高，當年開鑿運河、興建鐵路、電氣化、高速公路網、電信與網絡建設的投資占比都沒有AI高。以第二名的鐵路興建為例，也只占GDP的2.24％，比AI投資少了三分之一。
專家調查：AI災難風險不容忽視
AI的快速崛起是否會給人類帶來災難性的結局，已經成為人們不得不面對的焦點話題，也引發各方爭議。人們普遍認為“AI代理人好像有人性，卻似乎沒有善惡觀念”。
澳大利亞昆士蘭大學與美國麻省理工學院FutureTech團隊於2026年公布的一項研究，為這場爭論提供了新的數據。
研究人員調查了來自37個國家的272名AI領域專家，評估24類人工智能風險。研究發現，在維持現有發展軌跡、沒有採取額外有效措施的情景下，專家認為其中18類風險在未來五年內造成災難性後果的概率超過10%。
研究所說的“災難性後果”，包括超過100萬人死亡、造成超過1000億美元的經濟損失，或嚴重損害民主制度與公民權利等，並不單指人類滅絕。
專家最關注的風險包括AI獲得危險能力、科技企業之間的激烈競爭、AI輔助武器與網絡攻擊、權力過度集中，以及虛假信息傳播。
研究同時指出，即使採取務實的風險緩解措施，仍有若干風險值得高度警惕。AI開發企業、政府和監管機構應承擔主要防範責任，但普通用戶和公眾可能承受最直接的後果。
“AI毀滅人類”究竟有多大可能？
在AI安全領域，部分研究人員擔心，未來高度先進的系統可能具備自主規劃、編寫程序、利用網絡漏洞及執行複雜任務的能力。如果這些能力與人類無法有效約束的目標結合，後果可能遠超一般技術事故。
Anthropic人工智能公司安全研究人員埃文•休賓格（Evan Hubinger）曾提出，未來十年AI導致人類滅絕的風險可能超過10%。
另一邊，AI Now Institute首席科學家海蒂•克拉夫（Heidy Khlaaf）質疑，若研究人員無法提出可檢驗的證據，也無法清楚說明超級智能將通過什麼具體機制導致人類毀滅，那麼精確的滅絕概率數字就可能缺乏科學基礎。
網絡安全專家艾倫•伍德沃德（Alan Woodward）則強調，人類不應把責任簡單推給機器。AI可能成為攻擊工具，但系統如何設計、部署和使用，仍涉及人類及機構的選擇。
牛津大學學者托比•奧德（Toby Ord）等研究者則認為，如果未來出現遠超人類能力的超級智能，其風險值得嚴肅對待，但這種超級智能尚未出現，其發展路徑和最終結果也並非注定。
這些不同觀點反映出AI威脅論的核心難題：潛在後果可能極其嚴重，但距離某些最極端的情景究竟還有多遠，目前仍存在重大不確定性。
比末日論更迫切的現實風險
與遙遠的超級智能失控相比，一些AI風險已經出現在現實生活中。
首先是網絡攻擊與詐騙。AI可以協助編寫惡意代碼、製作逼真的詐騙信息，或生成能夠模仿真實人物聲音和影像的深度偽造內容。攻擊者不一定需要創造出擁有自主意識的機器，就能利用AI擴大犯罪規模。
其次是虛假信息與公共信任危機。AI能夠快速生成大量文章、圖片、音頻和視頻，使公眾更難辨別真假。在選舉、戰爭和重大公共事件期間，這類技術可能被用於操縱輿論、冒充官員或製造社會恐慌。
第三是生物安全與武器風險。專家擔心，先進AI可能降低部分危險研究和技術操作的門檻，協助不法分子獲取原本難以掌握的知識。不過，AI提供信息並不意味著使用者就一定能夠製造出有效的生物武器，實際風險仍取決於技術條件、實驗能力及安全管控。
此外，AI可能改變就業結構，加劇收入與財富分配不均。如果先進模型、算力和數據主要掌握在少數企業或國家手中，技術帶來的收益也可能進一步集中。
因此，AI風險並非只有“機器突然反叛”這一種形式。詐騙、網絡安全、就業衝擊、權力集中和虛假信息，都是更具體、也更容易觀察的挑戰。
川普推動要求AI企業自律的“AI憲法”
隨著公眾對AI安全的關注升高，美國政府也面臨如何平衡技術發展與風險防範的問題。
2026年9月29日，美國總統川普在白宮與多家科技企業負責人會面，並公布一項有關先進人工智能安全的自願性協議。參與企業承諾加強內部安全控制、接受獨立審查，並在董事會層面監督相關安全措施。簽署方包括OpenAI、Anthropic、Google、Meta及英偉達等企業。
這項協議有時被形容為類似“AI憲法”的安排，但它並不是一部正式的美國憲法，也不是一項已經建立全面強制監管制度的AI安全法。其核心是推動企業自行管理風險，並通過內部控制和外部審查提高安全性。
雖然“AI憲法”緩解了社會對AI發展的擔憂，卻也引來不同的觀點。
支持企業自律的人認為，AI技術發展迅速，企業掌握最直接的技術知識，靈活的安全機制有助於避免監管拖慢創新。但批評者指出，如果缺乏明確的法律義務、獨立監督和違規處罰，企業自願作出的承諾未必足以約束商業競爭壓力。
美國路透社與益普索（Reuters/Ipsos）於2026年10月公布的一項民調也顯示，公眾對AI風險存在明顯憂慮。調查中，62%的受訪選民認為AI可能危及人類未來，57%認為川普政府對待AI風險的做法不夠完美。
人類需要的是恐慌，還是有效的防護機制？
AI威脅論的爭議，最終指向一個更實際的問題：人類應該採取什麼措施，才能在利用技術的同時控制風險？
對於已經存在的詐騙、深度偽造和網絡攻擊，各國可以通過刑事法律、身份驗證、網絡安全測試和公眾教育加強防範。對於更先進的AI系統，則需要考慮獨立安全評估、風險分級、事故通報、模型能力測試，以及在出現嚴重問題時暫停部署的機制。
與此同時，監管也必須避免陷入兩個極端：一方面，不能因為擔心AI失控而否定其在醫學、科學和生產力方面的潛在價值；另一方面，也不能以技術競爭為由，將安全問題完全交給企業自行處理。
AI是否最終會威脅人類生存，目前沒有確定答案。專家對風險的估計存在顯著差異，某些最極端的情景仍然難以驗證。但這並不意味著人類只能等待風險發生後再採取行動。
真正值得關注的，不是某位專家給出的P(doom)究竟是10%還是50%，而是當AI能力迅速增長時，誰負責識別風險、誰有權叫停危險部署，以及誰來確保技術進步的收益不會以公眾安全為代價。
AI未必注定成為人類的敵人，但人類如何管理自己創造的技術，將決定它最終成為福音，還是新的風險來源。
中美在AI領域各有千秋
如果以2026年最新的研究和產業數據來看，中國在部分AI領域已經追近美國，甚至在某些指標上領先。
1. 頂尖模型與複雜推理：美國仍有微弱優勢
OpenAI、Anthropic、Google等美國企業仍擁有最強的一批前沿模型。不過，中國的DeepSeek、阿里巴巴等企業已能在多種推理、編程和數學任務上與美國模型競爭。斯坦福報告統計，2025年美國推出50個重要AI模型，中國推出30個。
2. 論文、專利與人才培養：中國有優勢
中國在AI論文發表量、引用量和專利授權數量方面領先，並擁有龐大的理工科人才培養體系。
3. 高端芯片與算力：美國占據關鍵優勢
美國在先進AI芯片、芯片設計生態和前沿計算基礎設施方面仍有明顯優勢。
4. 產業應用與成本：中國競爭力突出
中國擁有龐大的製造業、工業機器人應用基礎，以及將AI融入工廠、物流和消費產品的市場。美國則擁有強大的雲計算平台、軟件生態和企業投資能力。
5. 資金與基礎設施：美國投入規模更大，中國加速追趕
斯坦福報告顯示，2025年美國私人AI投資達2,859億美元，中國為124億美元。但這不能體現中國的實際投入，因為中國還有未公開的政府引導基金及其他政策性資金。
AI大幅降低國產片的製作門檻
AI的發展在中國也出現爭議，但不同的是，公開的爭議僅出現在娛樂界。
AI技術正迅速改變中國影視產業。過去需要龐大劇組、昂貴服裝道具及複雜特效才能呈現的古代宮殿、千軍萬馬和歷史戰場，如今只需少數創作者借助AI工具，便能製作出視覺效果逼真的短劇。
新華社今年7月報道的AI短片《霍去病》，便是一個例子。該片由僅有3人的核心團隊製作，前期算力成本約3000元，展現了AI技術降低影視製作門檻的潛力。不過，團隊為了篩選出可用鏡頭，仍須反覆生成、挑選和修改畫面，說明低成本並不意味著完全不需要人工投入。
行業規模也在迅速擴大。據澎湃新聞援引DataEye研究數據，2026年上半年，中國AI劇及漫劇的產量與播放量持續增長，越來越多製作團隊進入市場。另一項行業統計顯示，2026年1月至6月，抖音端新增AI短劇達22.2萬部，部分作品取得數十億次播放增量。
AI製作也正在從手機短視頻走向電視熒屏。以非物質文化遺產為題材的《桃花潭記》於今年7月在安徽衛視播出，全劇採用AI製作，並明確標註相關技術信息。該劇嘗試將傳統宣紙文化與古風敘事結合，顯示AI影視除了玄幻、穿越題材，也有機會用於文化傳承和地方文旅推廣。
AI歷史劇席捲中國網絡惹爭議
然而，隨著AI歷史劇迅速走紅，關於歷史真實性、內容質量、版權保護及青少年認知等問題，也在中國網絡引發激烈討論。
近日，AI歷史漫劇《秦始皇：朕有華夏全明星陣容》成為爭議焦點。這部作品將穿越、歷史與玄幻元素結合，講述一名現代醫學生穿越回秦朝，利用時空機器召集諸葛亮、霍去病等不同朝代的歷史人物，協助秦始皇統一天下、強化軍備的故事。
該劇自9月上線後迅速走紅，平台熱度一度突破5600萬，收藏數超過250萬。不過，隨著第三季熱度上升，作品也傳出遭大量用戶舉報的消息，爭議集中在歷史改編是否失真、人物設定是否違背史實，以及可能對年輕觀眾造成誤導等方面。製作方稱，已有上千集內容積壓，後續播出受到審核影響。
在 Instagram 查看这篇帖子
AI歷史劇的爭議，核心在於創作者可以自由組合歷史人物，卻未必清楚標示哪些內容屬於虛構。
很多反對者擔心，當秦始皇與諸葛亮、霍去病等相隔數百年的歷史人物被安排在同一時空，並以逼真的畫面呈現時，部分觀眾可能混淆真實歷史與虛構情節。尤其是缺乏歷史知識的兒童及青少年，未必能分辨哪些內容有史料依據，哪些只是為了製造戲劇衝突。
中國媒體近期評論指出，一些AI歷史漫劇以拼接歷史人物、改寫人物關係及誇張情節吸引流量，容易出現歷史細節失真、人物形象扁平化等問題。大量的AI虛構歷史劇擠走了真實歷史的存在空間。
