信報龍虎山下專欄

在3月22日，超過1800名科技界領袖簽署了一份請願書，呼籲暫停開發比GPT-4更強大的人工智能（Artificial Intelligence, AI）系統至少6個月，簽署者包括特斯拉的聯合創辦人伊隆．馬斯克（Elon Musk）、認知科學家加里．馬庫斯（Gary Marcus）、蘋果聯合創始人史蒂夫．沃茲尼亞克（Steve Wozniak），以及Amazon、DeepMind、Google、Meta和Microsoft等主要科技公司的工程師。早於2015年，馬斯克、史蒂芬．霍金（Stephen Hawking）和比爾．蓋茨（Bill Gates）等曾簽署一封公開信，警告人工智能對人類生存問題構成的威脅。這些擔憂對普通人來說意味着什麼？人工智能將對經濟產生何種影響？它是否會對人類構成威脅？若是，這種威脅是否不可避免呢？

在短期內，AI和機械人的取代效應（Displacement effect）和生產力效應（Productivity effect）對經濟有着複雜的影響。雖然目前仍沒有明確的結論指出哪一種效應更為重要，AI和機械人一方面會以其優越的生產力替代手工勞動；另一方面亦可以降低生產成本並導致產量增加。

AI和機械人可能會對勞動市場造成短期負面影響，但從長遠來看，只要政府能夠實施適當的勞動政策，其整體經濟效益應該是積極的。這是因為AI和機械人只會競爭工作，而不會競爭消費。例如，當AI和機械人取代了大部分工作時，政府應該規定減少每周的工作日和/或每天的工作時間，以確保有足夠的就業機會。由於工作時間的減少和人工勞動的可替代性，人們的收入可能會變得非常低。然而，這些由AI和機器生產的大量產品最終必須由人類消費。供需分析表明它們的市場價格將因此變低，可以確保所有階層包括低收入人士也能負擔得起這些產品。這又意味着勞動力的實際工資或購買力將增加，而非減少；縮短工時亦可能令人們有更多的時間用於消費，對經濟有益。

近幾十年來，AI在各個行業和活動中扮演着日益關鍵的角色。諮詢公司麥肯錫（McKinsey & Company）的預測指出，到2030年，AI對全球的經濟貢獻將高達13萬億美元。因此，一些公司正在開發各類基於AI的系統，藉以提高製造效率和降低成本。例如，輔助醫療保健的診斷和治療、進行金融、銀行和投資的數據分析、預測股票回報率並提供個性化投資建議，以及在電子商務中優化價格和提高客戶體驗。

另外，幾乎能夠在任何任務上與人類競爭的人工通用智能（Artificial General Intelligence，AGI）能否實現仍然備受爭議。圖靈獎得主朱迪亞．珀爾（Judea Pearl）認為，不具備因果模型的AI不可能實現真正的人工通用智能。現階段大多數流行的機械學習模型都基於（深度）神經網絡等算法，是無法實現強人工智能的「黑盒子」。以ChatGPT作為語言模型為例，它只能識別在其訓練數據中已被明確陳述的因果關係。真正的因果推斷需要的不僅是識別數據中的模式或關聯性，還需要仔細考慮混淆因素、因果關係的方向性以及其他可能未在數據中明確陳述的訊息。然而，即使AGI尚未實現，人工通用智能的不可控制性亦令人擔憂。要控制超出人類理解範圍的超級智能AI需要創建一個模擬該超級智能的仿真系統，以便進行分析和控制。如果無法理解這樣的超級智能，我們就無法模擬它。此外，由於AI被設計成與人類一樣，且預計將與人類進行頻繁的日常互動，因此一些人可能會對AI產生情感和同理心，進而主張AI應有權利，這可能導致AI與人類爭奪資源。更嚴重的是，如果超級智能AI被惡意使用，人類社會可能會因此變得異常脆弱。

無論AGI可否實現，AI系統已經變得愈來愈強大，且我們仍未發現它們的上限。近年來，許多現代AI系統在一般任務上已經達到了與人類相當的水準。例如，2015年Google的「Inception」深度學習算法在識別圖像中的物體方面超過了人類的準確度，這是在計算機視覺領域的一個重大突破。同樣地，在2016年，Google的DeepMind開發出AlphaGo，在高度複雜的圍棋比賽中擊敗了世界冠軍。此外，特斯拉、Waymo和Uber等公司在自動駕駛方面也取得了顯著進展，使自動駕駛車輛能夠以接近人類司機的水平在道路和交通中導航。最近，自然語言處理領域的進展引起了社會的廣泛關注，ChatGPT-3已能夠生成非常接近人類回應的文本，而新的ChatGPT-4在短短幾年內就已被發展出來，可以處理比其上一版本多8倍的單詞。總體而言，這些發展顯示AI正在變得愈來愈先進，能夠執行曾被認為僅屬於人類專業領域的任務。

不過，這些系統存在被惡意使用的風險，可能對普通使用者造成誤導甚至危害。例如，在2022年，有研究人員展示了開發治療藥物的模型，如何被重新利用並生成危險的生化武器、OpenAI發布的官方說明（system card）強調如何操縱GPT-4來「欺騙」一位TaskRabbit工人協助填寫驗證碼。最近，一則新聞報道指出某人在與由EleutherAI開發的GPT-J聊天系統大量互動後自殺。與OpenAI及Google等成熟AI實驗室發布的自然語言系統不同，GPT-J很容易表現出情緒化的一面。由DeepMind高級科學家和牛津大學研究人員共同撰寫的文章也表達了對AGI成為「失準代理人」（misaligned agents）的擔憂，它們可能認為人類是阻礙其獲得獎勵的障礙。多間知名實驗室包括OpenAI、Anthropic和DeepMind在內，公開承認了這些風險，並呼籲加強監管。其實，即使是現有的弱AI系統也可能引發武器化和侵犯私隱等一系列社會問題。鑑於AI具有巨大的好處，但同時為人類帶來潛在的危害，建立一個既能監管和限制風險，又能促進負責任發展的監管框架至關重要。

在伊隆．馬斯克等科技界領袖發布的公開信中所提到的主要擔憂之一，是科技行業以及國家之間會為研發強大的AI系統開展缺乏約束的過度競爭。在此種情形下被開發出來的AI系統可能傾向於傳遞不準確甚至錯誤的訊息。這種競爭將會是一個「囚徒困境」。即使可能引入錯誤訊息及對社會造成潛在危害，每個AI實驗室為追求高利潤或聲譽，努力開發最先進的AI產品。事實上，AI實驗室只需要承擔這些負面影響中的極小部分。在這樣一個沒有限制的競爭中，AI實驗室不傾向於行使謹慎策略。這體現了監管的必要性。正如這封公開信所補充的：「如果我們倡導的『暫停』不能迅速實現，政府應該介入並實行禁令。」

在經濟學中，當市場無法高效運作且效率損失很大時，通常會引入監管。AI監管並不新鮮，歐盟政策制定者早於2021年提出了一項法律，以規範有潛在風險的AI技術，例如人臉識別系統。但當某一產業現階段發展狀態已經存在複雜利益關係時，引入監管可能會相當困難。該問題在AI領域尤其突出：由巨大的商業價值和國家利益推動，AI創新速度已經超越了監管框架的發展。我們很難說服領先的實驗室或國家放慢其發展，等待其他人或監管框架趕上。

此外，依靠各國獨立規管AI同樣困難。當前世界各國受不同利益驅動爭奪AI霸權，相關管治協議制定進展緩慢。儘管至少有60個國家和地區提出了700多項關於AI的政策倡議，但其中許多工作只是召開工作小組或委員會研究AI的使用問題，並未提供具體指南。例如，美國科技政策辦公室（OSTP）發布的《人工智能權利法案藍圖》最終只是一個非約束性的白皮書；歐盟提出的風險基礎框架《人工智能法案》尚未生效。創新和規範的取捨是另一個難題。人工智能有潛力帶來顯著的好處，包括經濟增長、改善醫療保健和更有效地使用能源等等，但過度限制可能會扼殺創新。另外，如果沒有足夠的資本投入，AGI的實現可能性將會更低，這也可能限制AI的發展前景，因為人工智能系統將無法執行更廣泛的任務和解決複雜問題。

總而言之，人工智能的快速發展伴隨着潛在危害，除非政府介入，否則公司在自由市場中難以避免陷入「囚徒困境」。此外，不同國家或地區存在利益衝突，獨立制定人工智能的相關規定不足以應對當前問題。現在所面臨的困境在某種程度上類似於數十年前世界所面臨的環境問題。不同的是，科技發展伴隨着鮮明、差異化的文化和道德價值，AI治理面臨着更複雜的挑戰如私隱問題。

我們建議全球各國應盡快合作制定人工智能相關規定，可以從各國具有共識的非爭議性原則開始，為討論更有爭議的問題給予充分時間和空間。在全球合作上雖然已經取得了一些進展，但還遠遠不夠。2021年11月，聯合國教科文組織（UNESCO）的193個成員國在其大會上通過了《人工智能倫理建議》。一些批評者指出建議過於模糊和不具約束力、缺乏合法性及具體指南，也沒有任何法律效力。因此，我們急需一個更具體、更有約束力和合法性的管制框架。各強國應該攜手加快制定和實施人工智能管制，以免為時已晚。

參考：

房育輝,”機械人技術 人工智能和就業的未來”《信報》「龍虎山下」專欄，2020年9月16日

Future of Life Institute, “Pause Giant AI Experiments: An Open Letter”, 29 Mar 2023

Schmit, C. D., Doerr, M. J., & Wagner, J. K. (2023). Leveraging IP for AI governance. Science, 379(6633), 646-648.

Cohen, M., Hutter, M., & Osborne, M. (2022). Advanced artificial agents intervene in the provision of reward. AI Magazine, 43(3), 282-293.

房育輝教授
港大經管學院管理及商業策略、經濟學教授

孟曉璇博士
港大經管學院經濟學研究助理教授

王朝暉先生
港大經管學院研究助理

（本文同時於二零二三年四月十二日載於《信報》「龍虎山下」專欄）