福山專欄 | 超级智能还不够：人工智能有许多答案，但它无法独自构建一个新社会

編者按：AI或是人工通用智能（AGI）是不是真的無所不能，給人類社會帶來極大的福祉？對此，福山保持謹慎甚至懷疑的態度。他承認AGI可能實現，並帶來科學、技術與經濟轉型，甚至超越人類認知，如AlphaFold解決蛋白質折疊。但他質疑AI樂觀主義者預測的爆炸性增長（如年增10-20%），認為當前經濟瓶頸非智力不足，而是物質、政治與社會限制。作者提醒，矽谷高估只能角色，忽略其他能力與輸入。AGI或許可以解決認知問題，卻無力克服人類社會的複雜性，經濟增長需更全面的視野。

本文原文為英文Superintelligence Isn’t Enough：AI has many answers—but it can’t by itself build a new society（Oct 08，2025），原發来自Persuasion：Francis Fukuyama專欄。作者和雜誌授權，波士頓書評翻譯成中文，為《波士顿书评》福山專欄最新文章。

《波士頓書評》免费订阅及相关事宜发送邮件：boshidunshuping@gmail.com，一杯咖啡支持書評前行：Zelle，PayPal：boshidunshuping@gmail.com 用戶名：Boston Review of Books；或是點擊下面成為付費讀者。

我有一個從大學時代就認識的老朋友，他透過在科技前沿的投資和創業發了財。這些年來，他的一個不變特點就是對那些他視為「非常聰明」的人的無盡欽佩。他對「聰明」的定義很具體：他們在數學方面非常出色，並且利用自己的腦力成功賺錢。

他並非孤例。矽谷（Silicon Valley）簡直就是天才崇拜的虛擬大教堂——起初是像史蒂夫·喬布斯（Steve Jobs）、比爾·蓋茨（Bill Gates）和伊隆·馬斯克（Elon Musk）這樣的人，他們圍繞技術應用建立了世界一流的公司。如今，這種技術已轉向人工智慧（AI），在這裡，薩姆·奧特曼（Sam Altman）、德米斯·哈薩比斯（Demis Hassabis）和揚·勒昆（Yann LeCun）成為了新的天才偶像。

而這一代人正在構建的，正是智能。目前正在進行一場通往人工通用智能（artificial general intelligence ，AGI）的競賽，這種機器將具備人類般的認知能力。甚至不止於此：前沿機器不是被編程，而是「成長」，據報導，它們能夠自我修改以擴展自身能力。它們不會止步於人類智能，而是會變得比人類更聰明。這種「超級智能」將引領科學、技術和經濟的巨大進步。沿此方向，已有成就，如哈薩比斯（Hassabis）的AlphaFold項目，它解決了先前技術看似無法攻克的蛋白質折疊問題。現在，有嚴肅的討論認為，不远的未來，使用超級智能AI的先進經濟體將能夠實現每年10%、15%、20%的實質性高增長率，而今天2-3%的增長已被視為可觀。物質匱乏將消失，取而代之的是補貼那些因AGI而失業者的計劃，如全民基本收入。

這些猜測存在幾個問題。首先是我無法評估的一個問題：AGI 或超級智能是否甚至可能實現。像埃里克·拉森（Eric Larsen）這樣的作家指出，雖然大型語言模型（LLMs）擅長從海量現有知識中篩選，但它們缺乏認知科學家 C. S. 皮爾斯（C. S. Peirce）所稱的「溯因」（abduction）——那種用於真正創新發現的推測性洞見。

但讓我們暫且假設AGI將會實現，機器在某些方面將變得比人類更智能。有充分理由相信，這種能力將在許多方面帶來變革，但可能不會如AI樂觀主義者所期待的那樣產生爆炸性經濟增長。

有這種懷疑的原因是，今天限制經濟增長的原因根本不是智力或認知能力不足。即使沒有智能機器，人類今天集體擁有的認知能力也超過了人類歷史上的任何時期。限制原因在於這種智能如何以多種方式與物質世界互動有關。經濟增長最終取決於在現實世界中構建真實物體的能力。一台智能機器或許能想出一個更好的捕鼠器計劃，但要實際製造那個捕鼠器，需要超出任何機器控制的能力。

在宏觀層面，我們已經遭遇「太多美元追逐太少實物」（too many dollars chasing too little stuff：這是經濟學中描述通貨膨脹壓力的一種經典表達，意指貨幣供應過剩但商品或資源不足，導致價格上漲和經濟失衡。—譯者註）的限制。正如環境末日預言者（environmental doomsayers，指預測生態災難的悲觀主義者）多年來爭論的，增長最終存在物質極限（material limits to growth）。最明顯擺在我們面前的是一個全球變暖問題，但還有許多其他極限。地球沒有資源支撐80億人達到美國的生活水平；事實上，以10%的年增長率，中國、美國和歐洲很快就會耗盡一切，包括農田、水、能源，幾乎所有其他資源。

在微觀層面，將智能機器的成果轉化為物質商品存在問題。產品創新一直依賴於漫長的迭代過程（iterative process），在這過程中，工程師嘗試想法、失敗，然後根據回饋修改設計。無論多么超級的智能，都永遠不足以模擬現有物質世界條件下物質物體的行為，這一點幾代工程師（builders）和修補匠（tinkerers）是心知肚明的。（譯者註：作者意思是幾代「builders and tinkerers」透過實際操作（試錯、失敗、再調整）累積的經驗，證明了這一點——他們知道，理論設計再完美，也得在現實中「碰壁」才能真正驗證和完善，並以此提醒讀者：AI的「腦力」很強，但忽略了人類的「手力」和現實世界的「混亂性」，這是創新和經濟增長的真正瓶頸。）

最後，還有政治和社會層面。我參加了一家領先的人工智慧（AI）公司的工程師的演示，他建議在不久的將來，人工通用智能（AGI）將能夠，例如，為發展中國家（developing world）貧困城市提供清潔飲用水。

問題在於，貧窮國家無法提供此類基本服務，並非缺乏良好市政供水系統（municipal water system）的知識。問題是政治和社會性的。人們不願支付新供水系統帶來的高成本；市政供水局（municipal water authority）的工會化工人（unionized workers）不願因自動化（automation）而失業；企業主不願承受街道為鋪設新管道而被挖開所造成的干擾；財政部長認為有其他優先事項，無法加稅來支付新系統。在許多貧窮國家，有水黑幫（water mafias），他們在水價低廉處買水，然後以敲詐般的價格（extortionate prices）轉售。如果你要阻礙他們，他們會武裝起來，隨時準備使用暴力。

一台超級智能機器（superintelligent machine）或許能夠理解這些問題，但它將無法克服它們。我們知道一個良好市政供水系統（municipal water system）是什麼樣子；我們缺少的是在X城市實施它的計劃。

我們對智能作用的理解，已被過去數十年發生的那種技術變革所扭曲。網絡（internet）、社交媒體（social media）和相關技術，全都基於軟體（software）。除了資料伺服器（data servers）和雲端儲存（cloud storage）之外，它們不需要製造從未測試過的新裝置。因此，軟體很容易擴展（scales）。這就是谷歌（Google）、Meta 和其他公司如何如此迅速成長為巨頭的原因。

那些透過在物質世界中構建物質物體來賺錢的公司，在擴展規模上要困難得多。儘管它們也同樣受益於規模經濟（economies of scale），但比軟體公司更快達到收益遞減點（diminishing returns）。（順便說一句，這就是為什麼伊隆·馬斯克（Elon Musk）的特斯拉（Tesla）的故事如此非凡的成功原因之一，因為它成功擴展了物質產品的生產。）我們不知怎的將軟體範式（software paradigm）視為主導，將它視為AI時代的特徵，但AI承諾的經濟益處不會那麼容易擴展。

這並不是說人工智慧（AI）不會帶來巨大生產力提升：看看傑里·卡普蘭（Jerry Kaplan）對機器人出租車（robotaxis）未來的預測。但像矽谷那些聰明人一樣，他們往往高估了智能在普通生活中重要性。除了智能之外，還有許多其他能力讓人類成為優秀而成功的人類；除了人工智能（AI）的助力之外，實現經濟增長還需要許多其他因素。