馬斯克和扎克伯格的人工智慧論戰

作者：劉裘蒂

這幾天特斯拉和太空探索技術公司（SpaceX）創始人埃隆·馬斯克和臉書的馬克·扎克伯格，為了人工智慧的規範又掐上了，人工智慧行內行外的不少人也捲入論戰。

這已經不是兩人第一次吵嘴，但是他們兩人所談的「人工智慧」（AI) 的範疇定義相同嗎？暢銷書《機器人的崛起》作者馬丁·福特對這場論戰有何看法？我也訪問了馬斯克聯合創立的非盈利組織OpenAI的首席人工智慧安全科學家達里奧·阿莫代，看看OpenAI如何以實際行動抵禦「黑科技」？

馬斯克在7月15日美國州長夏令會議中做了一個主旨對談，他對人工智慧再度提出警告，認為AI 將能夠遞歸性地改進自己，也就是應用程序自我調整，直到它將報廢人類：「我一直在敲警鐘，但是直到人們看到機器人走下街頭殺人，他們不知道如何反應，因為這似乎是如此飄渺。」

馬斯克認為如果沒有適當的監管，人工智慧將會變成一個毀滅性的人類歷史終結者！

上周末，扎克伯格在他家的後院一邊烤肉，一邊在臉書上與四百萬粉絲直播互動了一個半小時，在回答網友提問時損了馬斯克的觀點：「我認為那些老愛唱反調的人，試圖鼓搗這些末日的情景，只是我搞不懂，這是非常負面的，在某些方面其實我認為這是非常不負責任。」

馬斯克也不甘示弱，隔天透過推特反擊：「我已經跟馬克談過了，他對這個話題的理解非常有限。」

論戰場景化

這個「五十步笑百步」和「其實你不懂」的拌嘴辭令，正是關於人工智慧的論戰特色。而兩個大亨發言的場景，也形成一個戲劇化的對比：

馬斯克在美國州長聚集的政治場景拉警報，企圖在政治領導人中喚醒人工智慧對人類文明的「存在威脅」 。

而扎克伯格的臉書發言，向來是精雕細琢的「場景化營銷」，用來塑造他的形象，因此在他家的後院烤肉絕非偶然，這個布景象徵了人工智慧所眺望的未來，是田園式的風光，而不是世界末日的恐怖。

馬斯克和扎克伯格公開互撕對AI的歧見，已經不止一次了。這也反映了他們的商業活動不同的取向。

人工智慧已經形成臉書業務的重要成分，臉書在2013年起設立人工智慧研究部門，定期在官網發布研究成果。之前許多媒體報道臉書停擺了兩個「反叛」既定英語設置、而用自己發明的語言溝通不止的聊天機器人，但是後來行業知情人士澄清，臉書實驗室訓練機器人學習如何有效溝通和談判，當聊天機器人開始以類似摩爾斯電碼的密碼喋喋不休時，實驗室並沒有扼殺這個項目，而是修復一個軟體的錯誤，以使機器人以更像人的方式說話，讓研究人員可以破譯自己研究的結果。使用密碼交談並不代表聊天機器人有任何知覺，這樣的情況一點都不值得大驚小怪。

而扎克伯格本身也在研究技術開發自己的家庭自動化系統，AI甚至是扎克伯格的「年度挑戰」，他在2016年1月3日臉書發文：「我2016年的個人挑戰是，建立一個簡單的AI來運行我的家，幫助我工作。你可以把它想成《鋼鐵俠》里的AI管家賈維斯那樣。」 但是當扎克伯格炫耀他的家庭人工智慧裝備時，招來了不少網友輕蔑。

當時馬斯克對於扎克伯格的家庭裝備的反應？「讓你的家庭功能自動化，這不叫AI。打開燈，設定溫度，真的不算AI。」

馬斯克所談的人工智慧的危險，是挑戰人類智能水平的「通用人工智慧」 （AGI)，可以發展出摧毀性的邪惡智能，即使研發者有很好的意圖，但仍然「偶然地產生一些邪惡的東西」， 包括可能「能夠摧毀人類的人造智能增強型機器人」。

馬斯克認為根據他接觸到最先進的人工智慧技術，「任何事情機器人都會比我們做得更好，」 但他擔心的不僅僅是就業市場：「人工智慧是人類文明的根本存在風險，我不認為人們完全理解。」

比方說機器人可以通過做假的消息，欺騙電子郵件帳號和假的新聞稿來發動戰爭。儘管監管 「不好玩」和「令人討厭」，馬斯克認為「當我們被動地對人工智慧制定法規時就太遲了。」

而扎克伯格曾經稱馬斯克的末世警鐘為「歇斯底里」。

扎克伯格和馬斯克之間還有其他戲劇化的過節。去年，馬可斯擁有的SpaceX的火箭發射時在佛羅里達州爆炸，摧毀了臉書全球連通性計劃所使用的衛星。

扎克伯格和馬斯克顯然都自負於對最前沿的人工智慧技術的掌握。有論者以為這場論戰缺乏對「智能」的明確定義。在沒有明晰的「人類智能」的輪廓下，更遑論對「人工智慧」的定義。

對我而言，這場論戰也涉及了「人」與「機」之間的分野，虛擬世界與現實世界的邊界。

馬斯克顯然不同意機器只是與創建它們的人一樣好或一樣壞，矽谷很多人認為他的末世論聽起來像是電影里的陳腔濫調。今年三月《名利場雜誌》專文討論，許多矽谷人認為馬斯克只不過是挑逗一個根深蒂固的矛盾：人與機器之間的衝突，目的並不是為了拯救世界，而是拋光打磨自己的品牌。

加入這場你來我往的論戰，包括麻省理工學院計算機科學與人工智慧實驗室的創始主任羅德尼·布魯克斯，他在接受《科技關頭》（TechCrunch）採訪時表示，人類在任務中的技能與計算機在某項任務中的技能有很大差異，這在很大程度上源於其潛在的「能力」，電腦缺乏這種人類的流動智慧。布魯克斯認為馬斯克的錯誤來自把人工智慧的擬人化，從而高估了其危險。

馬斯克接受《名利場雜誌》的訪問時表示，「我們已經是半機器人：你的手機和你的電腦是你的延伸，但界面是通過手指移動或言語，這是非常緩慢的。但是如果在頭顱里放一個『神經織網』（neural lace），你可以用無線的方式，將數據從大腦投射到數字設備、或是幾乎無限的計算雲端。」

馬斯克認為再過四、五年，人類應該可以發明相當程度的部分機腦界面。今年三月間《華爾街日報》報道馬斯克成立了名為Neuralink的新公司，主要是研發神經織網技術，通過植入人類大腦的電極，可以讓人們與機器直接交流，除了可以把想法傳達給電腦，還可以從互聯網上下載想法。借著這種「人機結合」的技術，可以輔助醫療，以及提高人類的認知功能水平。

但是這個「人機合體」，聽起來是不是越來越像那個馬斯克警告我們要防備的世界？

與馬斯克有特殊交情的《等等，但為什麼》博客作家提姆·爾班如此詮釋馬斯克的想法：如果人類可以用AI來思考，讓AI作為我們大腦中的第三層，在那裡為我們建立AI。這樣一來，人類兼具人的智慧和人工智慧，兩者都變成我們，所以我們在某種程度上成為AI 。

儘管這會賦予我們更多能力，聽起來似乎令人毛骨悚然，但是馬斯克認為如果我們所有人都是AI，那麼沒有任何人可以壟斷控制世界上所有的AI。透過彼此競爭和制衡，將會奇妙地使這個人機結合的世界更安全。

我問暢銷書《機器人的崛起》作者馬丁·福特對這場論戰的看法，他說：「我不認為馬斯克的擔憂可笑，但我認為我們離通用人工智慧的未來還很遠，可能至少還要30-50年。在這一點上，我不會主張廣泛監管人工智慧，因為人工智慧將帶來巨大的收益。」

福特認為在某些方面可能會有更多的規範，例如影響隱私或軍事安全的應用。但無論如何，這場辯論錯失了福特在《機器人的崛起》關注的問題：AI對就業市場的影響。

對福特而言，自動化造成的廣泛的就業崗位損失不需要涉及馬斯克擔心的高級AI。更專業的應用（例如馬斯克熱衷的無人車）將足以潛在地消除數百萬個工作。這對社會和經濟都會產生巨大的影響，

「我認為這可能是短期內未來十年或二十年中最重要的破壞。我認為我們應該更多地關注這個問題，這不是倡導規範或限制AI，而是找到適應這個問題的方法，比如提供全民基礎收入。」

我個人認為人工智慧的法規可能註定要與當代科技的演變脫節，因為人工智慧的發展涉及眾多的相關領域，從大數據、雲計算、深度學習、神經網路、心理學、機器人、語言識別、圖像識別、到自然語言處理等等，當眾多領域都同時經歷爆髮式的突破，在某種程度上將加速科技研究的裂變和變數。

況且，人工智慧各領域的專家對這個議題尚且莫衷一是（比爾·蓋茨和史蒂芬·霍金也站在馬斯克這邊），如何指望政治體系追趕研發的速度？目前馬斯克也未提出適當監管的框架建議，並且如果某個體制加強監管，卻沒有國際上的共識和協定，也可能導致技術和資金往監管較少的政權靠攏。

OpenAI 防禦「黑科技」？

馬斯克和一些矽谷達人，包括PayPal創始人彼得·蒂爾，在2015年承諾投入10億美金創立OpenAI （開放式人工智慧）非盈利平台。透過60名全職研究人員和工程師，OpenAI的使命是：「建立安全的通用人工智慧（AGI），並確保AGI優勢儘可能廣泛和均勻地分布……在這個過程中，OpenAI不會將私人信息私有化，但從長遠來看，期望在有安全隱患的情況下，創造出保持技術私有化的正式流程。」

OpenAI到底如何透過實踐，幫助解決人工智慧可能造成的人類「存在危機」？我問OpenAI的首席人工智慧安全科學家達里奧·阿莫代，為何為了解決AI的風險，有必要加入開發AI技術的行業，走在AI開發的前沿？

「我們發現，從今天AI稀鬆平常的風險開始著手更為容易，比如防止意外事件，或教授簡單的機器學習系統來遵循我們的參數選擇。如果我們能夠處理這些風險，並且了解如何隨著人工智慧系統逐漸增強而發展，那麼我們將能更好地應對未來系統所帶來的風險。」

馬斯克曾經就AI的安全性，與谷歌的聯合創始人拉里·佩奇辯論過，但是兩人已經「和解」。OpenAI目前和被谷歌收購的DeepMind合作，開發基於人類參數選擇來訓練人工智慧的新方法。同時OpenAI還開發和發布了OpenAI Gym （開放式人工智慧健身房）軟體，用來幫助研究人員訓練AI系統。這有助於制定某些AI研究領域的標準，增加研究的可複製性，從而擴大AI的科學家群體。

那麼，OpenAI的研究有助於預防「邪惡機器人」嗎？

「邪惡機器人不是我們擔心的事情。但是我們認為值得關注由於糟糕的設計，而使人工智慧做出設計者並未構想的行為。」

馬斯克對扎克伯格的反駁，似乎讓人看到了盡在咫尺的危機，因此我很好奇在阿莫代看來，人類距離創造「通用人工智慧」，和「超級智能」的奇點還有多遠？阿莫代沒有對馬斯克和扎克伯格的論戰直接評論，但是他說：

「我們傾向於認為AGI是一個長期目標，旨在激勵我們，並引導我們的努力，就像治癒癌症一樣。我們不期望它會在近期實現，我們更有興趣的是推動普通AI系統可以做的界限。一個更好的發問方式可能是：在未來幾年我們可以期待什麼激動人心的應用程序？在這裡，我認為機器人技術的進步將會很快。我們將看到機器人操縱和處理目前只有人類可以移動的物體，這顯然會產生巨大的工業影響。」

兩百年前，瑪麗·雪萊寫了科幻小說的始祖《弗蘭肯斯坦》（或譯成《科學怪人》）：年輕科學家弗蘭肯斯坦創造了一個擁有生命和意志，但轉向人類報復的怪物。弗蘭肯斯坦為了毀掉自己的作品，追蹤怪物一直到北極，受盡折磨後病逝。

我相信，只要我們對人工智慧的潛力還保持著相當的未知，代表馬斯克和扎克伯格觀點的論戰也必將繼續，正如弗蘭肯斯坦所說：

「沒有什麼比一個巨大而突然的變化，更讓人類的心靈痛苦。」