在人機關係中採用「機本位」視角

01-25

作者：紀宇彪

卡普蘭對人工智慧的未來想像不是放任式的暢想，他試圖通過不容辯駁的數據和邏輯推算出未來的人機圖景。

書名：《人工智慧時代：人機共生下財富、工作與思維的大未來》
Humans Need Not Apply:A Guide to Wealth and Work in the Age of Artificial Intelligence

作者：傑瑞 · 卡普蘭（Jerry Kaplan）
出版社：浙江人民出版社 · 湛廬文化（2016.04）
定價：59.90 元

在《人工智慧時代》這本書的第一節里，作者傑瑞 · 卡普蘭提到了 IBM 在上世紀 60 年代的一些具體舉措：

IBM 明星銷售團隊在給總部的報告中說，其他公司的決策者們對於在人工智慧上投入的努力能走多遠疑慮重重……為了迎接這次挑戰，IBM 的內部報告建議公司應該停止所有關於人工智慧的研究。可能也同樣是為自己的工作而擔心，所以 IBM 的管理成員不僅實施了這些建議，還給自己的銷售人員傳授了一句簡單的回應：「計算機只能按照編好的程序工作。」這句簡單直接的話是半個世紀內傳播最廣的文化模因（meme）之一。

那時的人工智慧被視為「順從的機械僕人」，那現在呢？

他試圖寫出一份人機協同指南

作者傑瑞 · 卡普蘭是斯坦福大學頂尖人工智慧專家，他在書的前言部分里就回憶起了 70 年代剛踏入斯坦福大學人工智慧實驗室的情形。他感覺自己像是到了極樂天堂，那裡有太多不修邊幅的天才、古靈精怪的奇人、充斥大廳的電子音樂和隨處遊盪的機器人。闖蕩商界 30 年後，準備退休的卡普蘭被重新邀請到實驗室教授商業知識。他這時發現，AI 領域已經細化為一系列學科，跨專業的對話變得更加困難，而且在實驗室那群聰明、熱情的年輕人身上看不到以前那種共同的使命感。為了重燃實驗室最原始的精神——直指人性的懷疑精神和強烈的探索欲，他提出要教授「人工智慧的歷史與哲學」課程。

他更是寫出這本書，帶人們領略科技的進步以及將要到來的挑戰（比如 50％的工作將被 AI 代替，人類生活被機器選擇，最富有的 1％利用 AI 統治餘下的 99％的人等），希望能幫助人們運用知識工具、道德基礎以及心理架構來武裝自己，從而成功在這些挑戰中生存。

傑瑞 · 卡普蘭

工作不需要人類

Humans Need Not Apply，工作不需要人類，我們能從外文版的封面直觀地看到這種意味。

外文版書影（書名借鑒了「教娛大師」CGP Grey 的一部出色的同名短片）

地址：www.cgpgrey.com

人工智慧領域的研究在兩個方向上有所突破。第一類新系統已經進入應用階段，它們從經驗中學習，這些系統比人們更懂得在漫漫的數據銀河中穿行，從感測器上累積的數據和人們在網路上留下的電子足跡掌握人類無法企及的模式和見解。而這種「合成智能」（synthetic intellects）並不是通過傳統意義上的編程得到的，它抓取數據，拼湊素材，指向實例，它最終成長成什麼樣並不受設計者所預見，總之，它比你更了解你自身的行為。

第二類新系統來自感測器和執行器（actuators）的結合。人們一般把「機器人」設定為感測器和執行器結合在一起的「物理容器」，但沒人規定這兩樣機器器官不能散落各處並間接地執行任務。這類系統被稱為「人造勞動者」（forged labors），它們一般是具特定目的的機器人，沒有思想，可以不知疲倦地完成龐雜的工作。

「無論你的領子是什麼顏色，自動化都會毫不留情」。他們將人類逼到了一個死角，合成智能蠶食白領，人造勞動者替代藍領。除了像司機、工人這些體力勞動者將在不久後被取代，讓我們吃驚的是，連像律師這樣擁有光環的腦力勞動者也面臨威脅。法學院也開始有危機感，斯坦福大學還開設一門「法律信息課」，試圖讓律師們看到 5 年之後的工作形勢。而醫療更像是一門科學而不是藝術，強大的數據支撐和精準的診斷顯然更能驅動其發展。

但，假如機器人犯罪了呢？

隨著合成智能和人造勞動者作為我們的個人智能體出現，大量的現實問題也接踵而來，比如該為機器人擬定什麼樣的法律和規定。

我們的社會在制定法律是默許人們偶爾可以實施一定的個人自由裁量權的，人們對人和事的倫理判斷相比人工智慧的數據處理而言顯然極為慢速，機器人能二話不說幫你規劃好最棒的停車位，儘管這很可能擠佔了別人的停車位。

中世紀時，動物會接受刑事審判。記錄在案的包括對雞、老鼠、田鼠、蜜蜂、小飛蟲、豬的起訴。那個時代和今天大不相同，人們認為動物能知道是非對錯，也能依照原則行事，他們相信動物擁有所謂的道德能力（moral agency）……在今天，我們可能會認為中世紀時動物也能犯罪的觀點很可笑，但是對於道德能力的現代解讀卻早已不僅僅局限於人類了。

書中虛構出了一個情景：你委託你的家庭機器人出門幫你買星冰樂，它在路上看到了一個男人和女人扭到在一起，它根據自己的通用的編程和具體經驗推測有人正在犯罪，制服了施暴的一方並撥打 911。結果你那倒霉的正義機器人被警察告知實情是那對夫妻正在玩鬧，作為代理人的你還被指控為傷害罪。

這時你的辯護律師可以找到一個南北戰爭時期的判例來作為論據——論證機器人的確需要承擔一定的審判結果，就像那些中世紀的動物一樣。在 17、18 世紀的美國，南方種植園的奴隸並不被認為是享有基本人權的人類，而更像是法律上的「財產」。判這起案件的法官也看到了奴隸和機器人地位之間的相似，最後決定清除機器人的相關記憶，也就是清除它目睹糾紛的「經歷」。

作者繼續追問，「強制失憶是最好的懲罰？」這對機器人公平嗎？「懲罰不僅要符合罪行，還要符合罪犯。」我們不能總是把人工智慧「去人格化」，強制性的失憶並不是干涉合成智能實現目標的唯一方法，我們也許可以撤回其行動的權利，就像它也是人一樣。

那麼，給機器人一次機會？

樂觀者樂於看到人造勞動者像在跳「機械芭蕾」一樣，協同處理摩天大樓玻璃上的灰塵，樂於看到出現越來越多的「關燈工廠」（指的是一種完全實現自動化的設施，對於該設施而言，已經沒有必要再把錢花在電燈上了。）……也願意賦權給人造人，擁抱人機共生的美好未來。當然，也有表達不滿的人們。

在美國橄欖球第 59 屆超級碗比賽的現場，由於海鷹隊啟用了有史以來第一個輕量級智能定位鞋——能把踢球者的腳精確地引導到最佳位置上。球員們不用再瞄準了，只要用最大力量揮腿，所有這些能量會把球推向比平常遠 50% 的地方，從而準確地射門得分。結果他們在沒有一次傳球的情況下，連續 30 次射門得分。激烈的公眾辯論自然接踵而來，其中革新派認為這個比賽的目的在於為公眾利益服務，所以比賽應該通過展現以技巧為基礎的競賽來娛樂廣大觀眾，同時也激勵著世界各地的運動員突破自我。規則應該偶爾根據新的科技發展做出改變。麻省理工學院的學生開發出一種能讓球員跳到難以置信高度的球鞋，如果比賽的雙方都使用這種球鞋來比賽，那比賽就是「公平」的、勢均力敵的，解決問題不總是需要怪罪和剔除新生的事物。

超級碗

當然依然有一些人對新玩意不滿意，他們由此發起了一個新的聯盟——「經典橄欖球聯盟」（CFL），「這樣的比賽在一些老派的人和純粹主義者中間很流行」。你是否相信這兩者是並行不悖的？

1906 年，約翰 · 菲利普 · 蘇薩寫出了《機械音樂的威脅》抨擊新生的錄音設備，他認為機器無法製作音樂，然而到了今天，蘇薩的觀點會被拿去當作笑料：「音樂就是音樂，無論它是怎麼製作的。」他就像是工業革命早期的盧德派（Luddites，是 19 世紀英國的一群技術熟練的紡織工人組成的團體，他們抗議工業革命帶來的機械化。後來泛指那些反對技術進步和產業調整的人）。

任何一種進化都不應該被拒絕，機器人也應該獲得機會。

他的預言更接近真相

卡普蘭對人工智慧的未來想像不是放任式的暢想，他試圖通過不容辯駁的數據和邏輯推算出未來的人機圖景。

他說，「人工智慧領域一直在利用我們對於人格化對象的自然喜好，但也讓人們相信機器比它們實際上更像我們」。他認為這是種誤導，因為這樣，我們從一開始就不能正視人工智慧。他提出：「科技將傾向於聯合化和簡單化。當生物在不斷生根發芽的『生命之樹』上增殖和分化時，相對應的機械『生命』卻反其道而行之。」他認為科技在複雜性和多樣性上的趨勢只是曇花一現，Facebook 已經把明信片、照片分享、邀請函、感謝信、溫馨提示以及慶賀等全部無縫融合到一幅完整的社會圖景中。「未來看起來會比你想像中的更像過去」，低調的全能的人造勞動者只要使用中世紀廚子使用的原始工具就能幫你辦成更多的事，一切會更加集成，也更加原始。

我們也可以隨處看到穿插在本書正文里的板塊——「人工智慧的未來」和「智能洞察」，前者主要展示對未來的描述或已經發生的卻像是未來的事實，後者則是作者對上述內容的評論和觀點。比如，他在某一節的「人工智慧的未來」板塊里介紹了一家叫「Robot, Robot, and Hwang」的律師事務所，Tim Hwang 是公司名稱里唯一的人類，機器人從暗室里搬到了銘牌上；在另一處的「智能洞察」板塊說到：「給計算機以數據，夠它用一毫秒；授計算機以搜索，夠它用一輩子。」

2015 年，《經濟學人》將這本書列為年度圖書，並給出了這樣的評價：「很多人都只是提出了問題，但卡普蘭先生的獨特之處在於，他設計了解決方法！」

圖： the guardian

有趣的是，卡普蘭這次似乎有意向人工智慧那邊「傾斜」，人工智慧不能繼續被視為「順從的機械僕人」，「人本位」的視角就像一對不明智也不公平的眼睛，不足以看見更遠的人機未來。人工智慧的進化以及由此衍生的一系列問題和思考需要被重視，我們也許可以試著採用「機本位」視角，也考慮機器人的感受，雖然避免不了這種視角依然是以「人」為前提的。

誤讀：一切閱讀，都是誤讀。
您正在閱讀 OFFLINEIssue 13 的「誤讀」欄目。
成為離線會員，您將收到每周一期電子雜誌，享受會員專屬權益。