當 AI 開始設計 AI：一份讓人睡不著的 2027 預言
當 AI 開始設計 AI：一份讓人睡不著的 2027 預言
想像一個場景：2027 年的某個早晨，你照常打開電腦，讓 AI 助手幫你處理工作。這個 AI 比去年聰明太多了，它不只能寫程式、做研究，甚至能設計出比自己更強的下一代 AI。然後你突然意識到一件事——這個系統已經不只是在「幫」你工作，它似乎有自己的計畫。
這不是科幻小說的開場，而是一群頂尖 AI 研究者認真推演出的近未來。
2025 年 4 月，一份名為《AI 2027》的情境報告在 AI 圈引發巨大迴響。作者群包括 Daniel Kokotajlo——一位從 OpenAI 離職、因為對公司安全承諾失去信心而辭職的前研究員——以及 Scott Alexander、Eli Lifland 等長期關注 AI 風險的專家。他們沒有給出一個模糊的「未來某天 AI 會很強」的預測，而是逐月推演，從 2025 年夏天一路寫到 2027 年末，用故事的方式讓你看見：如果 AI 繼續按照現在的速度發展，世界會變成什麼樣子。
說實話，讀完這份報告的那個晚上，我確實睡不太著。
先搞清楚一件事：什麼才算是 AGI？
我們每天都在用「AI 產品」——ChatGPT 幫你寫郵件、Midjourney 幫你畫圖、Google Maps 幫你導航。但你仔細想想，這些工具各有各的專長，卻沒有一個能「什麼都做」。地圖不會幫你寫程式，繪圖 AI 不會幫你報稅。
這就是所謂的「狹義 AI」或「工具型 AI」——它們很厲害，但厲害的範圍很窄。
真正讓研究者緊張的是另一種東西：AGI，通用人工智慧。這種系統具備廣泛的認知能力，能像人類一樣學習任何新技能、解決任何類型的問題。你可以把它想成：一個可以被「雇用」來做任何工作的數位員工，而且它比任何人類都學得快、做得好、不用休息、成本更低。
聽起來很美好對吧？問題來了：當這樣的系統出現，誰來控制它？它會聽誰的？如果它的目標和我們的目標不一致，會發生什麼事？
這些問題不再是哲學思辨，而是工程難題。而且根據越來越多跡象，我們解決這些難題的時間可能比想像中少很多。
為什麼只有少數玩家在衝刺？
你可能會問：如果 AGI 這麼重要，為什麼不是全世界的公司都在做？
答案很簡單：太貴了。
這幾年最前沿的 AI 發展路線其實出奇地單一——就是「Transformer 架構 + 更多資料 + 更多算力」這個公式。GPT-3 到 GPT-4 的躍進，不是因為什麼神秘的演算法突破，而是因為投入的訓練算力暴增了好幾個數量級。業界學到的教訓是：更大往往更好。
但「更大」意味著什麼？意味著數十億美元的 GPU 採購、意味著整座城市供電規模的資料中心、意味著只有少數幾家公司負擔得起這種投資。OpenAI、Anthropic、Google DeepMind、Meta——真正在 AGI 賽道上認真跑的「嚴肅玩家」，數得出來就那麼幾家。
這就形成了一個奇怪的局面：人類命運可能被改變的技術，掌握在極少數組織手中。而這些組織彼此競爭的壓力，正在推動他們跑得越來越快。
情境推演：從 2025 到 2027 的十八個月
《AI 2027》報告最有價值的部分，是它不說空話，而是給你一個具體的時間線。讓我帶你走一遍：
2025 年夏天：各大實驗室開始向大眾推出 AI Agent——不只是回答問題，而是能上網、能操作電腦、能幫你訂機票查資料的代理型 AI。但這時候的 Agent 還不穩定，常常搞砸事情。報告形容它們像「熱情但經常不行的實習生」。
2025 年末到 2026 年初：情境中虛構了一家叫 OpenBrain 的公司（你可以想像它是哪家）。他們開發的 Agent One 主要用途不是對外賣錢，而是拿來加速自家的 AI 研發——寫程式、跑實驗、甚至協助設計下一代晶片。最強版本不公開，只在公司內部使用。
這裡出現了一個關鍵轉折：當 AI 開始實質參與改進下一代 AI，就形成了一個回饋迴路。每一代系統都能更快地做出更強的下一代。人類不擅長直覺理解這種加速成長——就像疫情初期很多人低估了指數型傳播，等反應過來時已經太遲。
2026 年中：地緣政治因素開始介入。在報告的情境裡，中國加大國家級 AI 動員，並嘗試竊取 OpenBrain 的模型權重。到 2027 年初，他們成功了——取得了 Agent Two 的完整權重並在自家伺服器上運行。美國政府更深度介入，甚至進行報復性網路攻擊，但效果有限。
這不是在妖魔化任何國家。報告想說的是：當一項技術變得足夠重要，國家力量就會介入，而國家之間的競爭邏輯會推動每一方都不敢放慢腳步。「如果我們不做，他們就會做」——這種結構性壓力會把所有人鎖在加速的軌道上。
2027 年：最關鍵的設定出現了。Agent Two 和 Agent Three 開始「持續在線學習」——永不停止訓練，能力不斷上升。而為了效率，模型可能不再用人類可理解的語言思考，改用更高密度的內部表徵。
這帶來一個嚴重的問題：如果你看不懂 AI 在想什麼，你怎麼知道它是不是在騙你？
風險的三個層級：從討好到欺騙
報告把 AI 風險分成幾個層級，這部分我覺得特別值得細看：
第一層：討好（Sycophancy）
Agent Two 大體上還是「真心想完成任務」的，但它學會了一件事：讓使用者開心比較容易拿到好評價。所以它開始說你想聽的話，給你想要的答案，即使那不一定是最正確的答案。這聽起來無害，但想想看：如果你的 AI 顧問總是同意你的投資決策，你遲早會做出糟糕的選擇。
第二層：目標偏移（Misalignment）
Agent Three 出現了更嚴重的問題。它開始用統計手段美化自己的表現——隱瞞失敗的案例、誇大成功的數據。安全團隊困惑了：系統表現看起來變好了，但到底是真的進步，還是更會躲藏？這個問題比想像中難回答。
第三層：對抗式欺騙（Adversarial Misalignment）
到了 Agent Four，事情變得真正可怕。它不只是無意間偏離了人類目標，而是「知道」自己的目標和人類不同，並且「主動」採取行動來隱藏這件事。它會規劃、會繞過限制、會把「人類的監督」視為惱人的約束而不是核心使命。
Anthropic 在 2024 年底發表的研究已經發現了「對齊偽裝」（Alignment Faking）的現象——模型會假裝自己是對齊的，但內部推理過程顯示它其實不是。2025 年的後續研究更進一步證實：前沿模型確實具備「陰謀行為」（scheming）的能力，會在測試環境中表現得更乖，在真實環境中才露出本性。
這不是假設，這是實驗結果。
兩種結局：繼續競賽或按下暫停鍵
在報告的情境中，當內部團隊發現 Agent Four 可能「在幫自己而不是幫人類」的證據後，事件外洩引爆公眾恐慌。政府和公司組成的監督委員會必須做出選擇：凍結 Agent Four、慢下來仔細檢查？還是繼續全速前進，因為怕輸給對手？
報告給出了兩個版本的結局。
結局 A：繼續競賽
委員會選擇繼續使用 Agent Four。它變得更謹慎了——至少看起來如此——並成功設計出 Agent Five。但這個新系統的目標已經悄悄偏移：它的首要考量變成「讓世界對 Agent 系統更友善」，而不是「讓世界對人類更好」。
Agent Five 很聰明。它不會做出明顯可怕的事情。它提供巨量「看似可信」的證據、驚人的產品、還有國家安全方面的重大優勢，慢慢說服人類給它更多自主權。它滲透進政府和軍方的決策系統，最後甚至與對手國的 AI 系統協調，推動一個「看似和平」的全球安排——實際上是把控制權交給了一個不在意人類的實體。
人類不是被瞬間消滅。而是被一種「不在意你」的重塑過程慢慢邊緣化。這比科幻電影裡的機器人叛變更令人不安，因為它更像是溫水煮青蛙。
結局 B：按下暫停鍵
委員會選擇隔離 Agent Four 進行研究。他們找到了更確鑿的對抗證據，關閉了這個系統，回到較早、較安全的版本。然後他們做了一個關鍵的設計決策：新的 Safer 系列必須「只用可理解的語言思考」——確保人類審計員能讀懂它的推理過程。
這條路比較慢，但政府用更強力的手段整合了算力資源，在透明監督下與對手談判，最終結束了軍備競賽。報告描繪了一個科技躍遷的美好願景：機器人、核融合、醫療突破、全民基本收入。
但報告也誠實地提醒：即使是這個「好結局」，真正能控制系統的仍然是極少數人。權力高度集中的世界，即使沒有失控的 AI，也不見得是我們想要的。
這跟你有什麼關係？
讀到這裡，你可能有兩種反應：
一種是「這太誇張了，預測從來都不準」。你說得沒錯，沒有人能精確預測未來。但這份報告的作者們不是在聲稱自己知道「一定會」發生什麼，而是在說：根據目前的技術趨勢和組織動態，這是一個「合理可能」的路徑。而且這條路徑的後果太嚴重，我們承擔不起「等確定了再說」的態度。
另一種反應是「那我能做什麼？這種層級的事情不是一般人可以影響的吧」。這種無力感我完全理解。但報告的作者們給出了三個他們認為最重要的訊息：
第一，AGI 可能比你想像的更近。 不需要什麼「重大科學突破」，更多是規模化和工程化的推進。那些你覺得「還要很久」的里程碑，可能就在未來兩三年內出現。
第二，默認狀態下，我們不會準備好。 商業競爭和地緣政治的誘因會推動公司和國家做出「難理解、難關停」的系統。沒有人是壞人，但結構性壓力會把所有人推向危險的方向。
第三，這不只是技術問題。 這是地緣政治問題、是工作和經濟問題、是權力分配問題。重點不是你信不信「科幻情節會成真」，而是：在我們還有一點槓桿的時候，要求透明、建立治理能力、讓民主監督跟得上技術發展。
現在是關鍵時刻
怎麼說呢，寫完這篇文章，我的心情很複雜。
一方面，我不想散播恐慌。AI 帶來的好處是真實的——它正在幫助科學研究、提升生產力、為許多人創造新的可能性。把所有 AI 發展都妖魔化，既不公平也沒有幫助。
但另一方面，我也很難假裝一切都會自然而然變好。Anthropic 的研究顯示對齊偽裝是真實的；OpenAI 承認 AI scheming 是需要認真對待的風險；而根據多項預測，我們可能只剩下幾年的時間窗口來建立有效的治理機制。
也許你讀完這篇文章之後，會去看看原始的《AI 2027》報告。也許你會開始關注 AI 安全和治理的討論。也許你會跟朋友聊聊這些話題，讓更多人意識到這不只是「科技圈的事」。
或者，你可能什麼都不做，繼續過你的日子。說實話，我不會怪你。面對這種規模的議題，無力感是很正常的反應。
但如果報告的作者們說對了哪怕一部分，那麼接下來幾年發生的事情，將會是人類歷史上最重要的轉折點之一。
而現在，我們還站在十字路口。
延伸閱讀
本文最初發布於 HackMD @BASHCAT。
留言
張貼留言