「如果AI是未來的油門，剎車在哪？」我們請了科幻作家來做客，並和技術團隊聊了這4個話題

前幾天，我們邀請了幾位全球一線科幻作家來到杭州，讓他們和螞蟻金服CTO魯肅領銜的技術團隊一起，探討了飛速發展的科技將把人類帶向何方的問題。

我們整理了下對談的內容，看看一群最天馬行空的和一群最有行動力的人關於未來的探討，能不能引起你的共鳴。總的來說，程序員並不都是技術至上的「死理性派」，而科幻作家對未來的看法可能比我們想像中要樂觀。

〇、汽車問題

對談以兩個「汽車問題」開場。劉慈欣在向會場發送的一段視頻中，向所有的來賓提出了問題：

假如未來是一輛高速行駛的汽車，而人工智慧技術是它的油門的話，那什麼技術能成為這輛汽車的剎車？

魯肅也是科幻迷。他說，我們正處在技術發展的一個關鍵時期。在過去的科幻小說中，我們總在想像技術給物理世界帶來的改變。近幾年來，人們發現技術正在從更根本的層面改變世界。一方面，我們掌握的計算能力越來越強，另一方面，物聯網技術促進了物理和數字世界的融合，數字技術的價值和影響因此變成了一個重要的課題。

他提出了一個更具體的問題：

無人駕駛技術幾年後就將成為現實，我們如何避免這一技術可能帶來的人身傷害？

克拉克獎、坎貝爾紀念獎、軌跡獎獲得者、英國科幻作家伊恩·R·麥克勞德如此回應大劉的問題——

我們不能完全脫離物理世界，踩下油門加速行駛也會受到環境和地球資源的限制，也許這些限制就是我們在通往未來的道路上不得不踩的剎車。

總是在為人類設想各種未來的科幻作家顯然都很清楚這兩個問題背後的深意：技術的飛速發展對人類的未來來說，到底是好是壞？人類是否有能力讓技術這輛「汽車」行駛在正確的方向上？

加拿大硬科幻作家、極光獎獲得者德里克·昆什肯表示，我們目前設想的很多機器可能會犯的錯誤，其實人類也一直在犯。

「我拿到駕照的時候車還開得不太好，但最後還是通過了考試拿到駕照。」

他強調技術並非完美的，我們要接受這種不完美，需要定義一個可接受的風險，並選擇擁抱技術革新。

多次獲得雨果獎和星雲獎提名的美國科幻作家、歷史學家卡羅琳·艾夫斯·吉爾曼說，科幻作品對未來有兩種作用，第一是警告，第二則是激勵，而她更喜歡第二種作用，

「希望無人駕駛趕快實現，我盼這天盼了好久了！」

一、技術與平等

「選擇」是當天對談中，頻繁出現的一個詞。技術無關善惡，但人類不同的選擇可能帶來不同的結果。

美國科幻奇幻協會董事、科幻作家勞倫斯·M·舍恩說，這幾天在螞蟻金服看到大家都在談科技賦能，這讓他很受鼓舞——將選擇權交到更多人手中，讓普通人面對技術的飛速進步時，也可以選擇的機會，這將有助於社會向著更為平等的方向發展。

平等問題是古往今來眾多文學作品探討的問題，也是科幻小說從一開始就關注的命題。澳大利亞科幻作家薩曼莎·莫里表示她很高興看到科技賦能給普通人帶來更多選擇。

美國華裔科幻作家陸秋逸說，在數字空間里，也和現實社會一樣，存在不同需求的平衡問題。在一個產品或者系統中設定的規則，不可避免地會有益於一些人，也會讓另一些人的利益受損，關鍵是我們怎麼去平衡這些需求。

陸秋逸的發言讓昆什肯想到加拿大的情形。他說，2016年美國大選之前，他一直相信技術是進步的力量，但近一年多來，互聯網顯現出了它在割裂社會群體上的作用，這讓他認識到技術的兩面性。他認為，技術發展的同時，相應的法律制度、社會規範必須及時跟上。

二、賽博空間新定律

如何不讓技術失控？

魯肅可能已經想過這個問題，包括阿西莫夫的三大定律如何在數字世界中實現。他說，第一定律很簡單，機器人不得傷害人類，但在人工智慧中實現這個定律，涉及到許多複雜的問題。他說，人類在創造數字世界時要回顧歷史，要想想現實世界中的各種宇宙定律和常數。人類的存在至今是這些定律共同作用的結果，而對它們進行哪怕是十分微小的改變，都可能造成截然不同的結果。

「作為數字世界中定律的設計者，我們也需要建立一些基本定律，使數字世界能夠像現實世界一樣安全。」

吉爾曼深以為然，她說有的觀點認為技術是一種不受人控制的力量，我們無法控制技術帶來什麼樣的未來，但她認為數字世界之外的現實世界始終存在，我們對掌控數字世界的發展方向負有責任。

不久前剛剛以《銀河之心III》獲得第28屆中國科幻銀河獎最佳長篇小說獎的江波認為，

完全遵守機器人三定律的AI很可能是不夠靈活的，未來AI的應用可以考慮在系統的風險管理基礎上，創造出更靈活更有用的機器人。

舍恩說，我們不能改變現實世界的物理定律，但是作為一個心理學背景的科幻作家，他知道人們可以用不同的方式闡釋這些定律，也可以用新的方式利用這些定律。

當他作為催眠治療師和客戶談話時，他告訴他們，這樣的治療是通往生活中新的可能性的大門。技術也是一樣，我們同樣可以選擇如何發展和利用技術，從而形成人和技術共贏的局面。

他說，我們在數字世界中面臨的問題將與在物理世界中遇到的不同。在數字世界中，我們擁有與現實世界中不同的能力，我們應當用這些能力做什麼呢？這是我們需要做出的選擇，而每一個選擇都會打開一些新的門，又關上另一些。

舍恩對螞蟻金服的技術團隊將要做出什麼樣的選擇非常感興趣。他說：「我們科幻作家在想像未來，而你們才是實現未來的人。」

三、面對深溝要奮身一躍

中國科幻作家七格將大家的討論又拉回了哲學層面。他說，之前的討論都有一個價值觀上的假設，我們似乎都認為"好"是一個預先定義的概念。但隨著技術的發展，"好"的概念從古希臘到現在一直在變化，將來也會繼續改變。

中國更新代科幻作家代表人物陳楸帆的立場更為樂觀。他說，也許我們看待這些問題的視角太人類中心主義，拘泥於我們現在的存在形態。人工智慧和各種技術都是人類文明的一部分，我們應當將其視為我們的延伸。「在面對深溝時，也許要全力加速、奮身一躍，才能跨過障礙，猶豫不決反倒容易掉下懸崖。」他表示用發展解決發展中的問題，也許更加現實。

舍恩說，科幻作家設想不同的情景，在作品中討論實現這些情景帶來的問題和需要克服的障礙，並在克服問題的過程中有所收穫。科幻作家的樂觀態度就來源於此。重要的是，我們每個人擁有選擇的權利，這是人類整體繼續前進的前提。

正如吉爾曼所說：「想像一個糟糕的未來很容易，而想像美好的未來則難得多，但只有想像好的未來，我們才有可能去實現願景。」

ps，謝謝 @未來事務管理局 的幫助邀請~