大師講堂亞洲中東、非洲美洲歐洲科技

《大家論壇》AI視角：擔憂重演大猩猩演化降級　不如著眼現代版圖靈測試

坎培聶拉（Edoardo Campanella） 2024年03月04日 07:00:00

坎培聶拉（Edoardo Campanella）
●哈佛甘迺迪學院商業與政府中心資深研究員

在人工智慧 (AI) 領域，所謂的「大猩猩問題」徘迴不去。距今約1000萬年前，現代大猩猩的祖先在偶然間產生了人類的基因族譜。雖然大猩猩和人類仍然擁有近98%的相同基因，但兩物種卻走上截然不同的演化之路。

人類發展出更大容量的大腦，以至於能夠有效統治世界；大猩猩則維持跟我們共同祖先一樣的生理和技術水準。這些祖先在無意間衍生出體力較差、但智力較優的物種，反而導致自己遭到邊緣化。

這讓人不難聯想到AI。人類在開發技術的過程中，恐創造出智商比自己更高的機器，但這卻不是無意為之，而是刻意為之。雖然AI開發者彼此競逐突破以搶攻市占率，但人類和機器之間也競逐控制權。

生成式AI工具，無論是如DALL-E和Canva等的文本到圖像生成器，或是如ChatGPT或Google Gemini的大型語言模型，以及如Sora等文本到影片生成器，已被證明能夠生成和操作語言的所有可感知形式，包括文字、圖像、音訊和視訊。這種掌握能力很重要，因為複雜的語言正是最典型、足以劃分人類與其他物種（包括其他高智商物種，例如章魚）的特徵。我們創造符號和講述故事的能力，塑造我們的文化、法律和認同。

當AI可以脫離訓練它的人類原型時，AI將利用我們的語言和符號來建立自己的文化。我們將首度面對另一個高智商物種，類似於面對外星文明的到來。一個能夠講述自己故事並影響我們看待世界方式的AI，將標誌著人類數千年霸主地位之所繫的智力壟斷已告終。在最反烏托邦的情境下，超級智慧的到來甚至可能標誌著人類文明的終結，就像是外星人入侵一樣。

2022年11月ChatGPT問世，引發人們擔心與AI共存的種種難題。隔年5月，科技業部分最具影響力的人士連署公開信，指出「化解AI帶來的滅絕風險，應該跟流行病和核戰等社會大規模風險一樣，被視為是全球的優先要務。」正如其他專家指出，可以確定的是，超級人工智慧絕對不是人類的立即威脅，且也可能永遠不會成為威脅。儘管如此，為了防止人類如同大猩猩般被演化降級，大多數人都同意，我們必須透過適當的規則和多重利害關係人方法，保持對技術的控制。既然再先進的AI也是人類聰明才智的副產品，因此AI的未來掌握在我們手中。

最近針對近3000名AI專家所做的調查顯示，專家整體預測，在任何認知任務上能擊敗人類的通用人工智慧 (artificial general intelligence，AGI) 將有50%機率會在2047年出現。另方面，史丹佛大學「人工智慧100年研究」報告則認為，「超級機器人物種並不會即將出現」，這種情況甚至可能不會發生。但考量到技術的複雜性，預測超級人工智慧是否及何時到來，很可能徒勞無功。

畢竟，在AI史上錯誤預測事件層出不窮。1955年，一群科學家在達特茅斯學院進行長達6周研討會，「尋求如何讓機器使用語言、形成抽象概念、解決現在只有人類能回答的問題，以及自我進步。」他們相信「若一群精心挑選的科學家通力合作，只要『一個夏季』就可以在一個問題或多個問題上取得重大進展」（『』是我加上的）。近70個夏季過去了，其中許多問題仍然懸而未決。

新的圖靈測試

在《下一波》(The Coming Wave，暫譯) 書中，科技企業家蘇萊曼（Mustafa Suleyman）對達成AGI的可能性並不那麼悲觀，但他警告不要設定時間表。他認為，現階段最好專注於將能左右AI未來形態的重要近期里程碑。

這是蘇萊曼的經驗談，他與自己的公司DeepMind就已達成這種里程碑。DeepMind (與 Google 合作) 開發AlphaGo模型，在2016年與世界頂尖圍棋選手對弈時，在五次中擊敗對手四次。圍棋是中國2000多年前發明的，被視為比西洋棋更具挑戰性和複雜性，而AlphaGo靠自己學會如何下圍棋。

當時觀察家印象最深刻的不僅是AlphaGo下贏了，還有它的策略。現在著名的「第37手」乍看下像是失誤，但最終證明非常有效。這是人類棋手絕對不會想出的戰術。

對蘇萊曼來說，現在要擔心AI系統出現純粹智慧或自我意識，還言之過早。人類至少還要忙碌數十載研發科技，才能迎得AGI到來。機器只是逐漸獲得類似人類的能力，以執行特定任務。

因此，下個前沿領域將是能夠執行各種任務，但距離通用智慧甚遠的機器。不同於傳統AI，蘇萊曼所謂的「人工能力智慧」 (artificial capable intelligence，簡稱ACI) 不僅能夠識別和產生適合給定文本的新穎圖像、文字和音訊，還可以與真實使用者進行即時交流，完成特定任務，例如經營新業務。

為了評估我們與ACI的距離，蘇萊曼提出所謂的「現代圖靈測試」。早在1950年代，電腦科學家圖靈 (Alan Turing) 認為，如果AI可以有效地進行溝通，以至於人類無法分辨它其實是機器的話，那麼該AI就可以被認為是有智慧的。數十年來，這項測試持續在AI領域引發討論。在ChatGPT和Google Gemini等最新一代大型語言模型出現後，似乎早已跨越最初的圖靈測試關卡。在最近一項實驗中，人類受試者花兩分鐘猜測與自己線上聊天的是人還是與機器人。與機器人交談的五位受試者當中，只有三人猜對。

蘇萊曼的現代圖靈測試，看的不只是AI能夠說什麼或生成什麼，而是它可以在世界上達成什麼。他提議把10萬美元交給AI，看看它能否將這筆金額變成100萬美元的生意。AI必須研究電子商務商機、生成產品藍圖，在阿里巴巴等網站上找到製造商，然後在亞馬遜或沃爾瑪網站上銷售該商品（附書面產品說明）。如果機器能夠通過這項測試，它就可能具備如同超級智慧一般的顛覆性。畢竟，只有極少數人類可以保證900%的投資報酬率。

蘇萊曼認為我們距離這個里程碑只有數年之遙，這反映出該領域活躍企業家的樂觀態度。不過，1950年代的電腦科學家亦曾預測，電腦將在1967年擊敗人類西洋棋冠軍，但直到1997年IBM「深藍」擊敗棋王卡斯帕洛夫 (Garry Kasparov)，這一切才成真。我們對於所有關於AI的預測，都應該抱持保留態度。（系列二之一）

（翻譯：吳巧曦，責任編輯：楊淑華）

© Project Syndicate

（原標題為《Which AI Risks Matter?》，文章未經授權，請勿任意轉載）