自動化系統下的世界：你的智商和決定權正在被剝奪

來自專欄認知升級6 人贊了文章

隨著人工智慧時代的來臨，人們最為擔心的就是人工智慧是否會取代一部人的工作，這個問題的答案是肯定的；那麼，接下來的問題就產生了——哪些人的工作會被替代？其實，我們有可能對於人工智慧擔心的過多了，而忽視了眼前生活中的一個可怕事實——我們的智商和決定權正在被剝奪，而這種剝奪是無形的和無情的。

被我們忽視的一個可怕事實

這兩天有時間就在死磕《混亂》這本書，當看到「自動化」這個章節的時候，就想起了大學時光中的一件小事，但就是這件小事，讓我記憶猶新。

那是大三的暑假，我因為考研和做實驗等事由沒有回家避暑，當時室外溫度大概有40多度的樣子，室內就更不用說了，而且院內為了節約用電，空調溫度不能開的太低，因此我一邊蒸著桑拿，一邊提著蛋白，甚是愜意。

有一天，老闆讓我帶著提好的蛋白去一個研究所做檢測，但這個研究所我並不知道在哪裡，而且老闆也沒說過多細節，只說了研究所名字和聯繫老師姓名，剩下的工作就是查到這個研究所的地址和解決如何去的問題了。

這時，我下意識的拿出手機，打開了地圖導航軟體，輸入了研究所名字，就出現了需要乘坐的公交車信息和下車後的步行信息，保存信息後，萬事俱備，把蛋白放進冰盒就頂著酷日上路了。

在公交車上享受了短暫的清涼之後，按照導航下了車，開始了干煎和桑拿的雙重體驗。但是心想：還好有導航，如果用地圖的話，得費多大的力氣才能找到啊！

但是後面發生的事情，讓我意識到高興的太早了，

接下來的兩個小時里，我跟著導航穿過一條又一條的小巷，走過一條又一條的大街，毫無質疑的跟著。雖然外部環境是360度全方位炙烤著，但是導航的結果卻讓我的心彷彿置於冷庫中：在這兩個小時里，我經歷過死胡同，也經歷過「修路中，此路不通」，最後「歷經萬險」才到達了研究所。

到達後，接待老師給我說「我的老闆很早就給他打電話，那邊說我已經出發了，為什麼才到？我記得當時就說了一個詞「一言難盡」；雖然這個過程很艱辛，還好最後的結果是好的，蛋白是爭氣的，得到了很好的結果。

雖然當時由於這件事情很生氣，怒刪了軟體。但由於當時實驗結果很不錯，就沒有把這件事想太多。

這兩天經過閱讀，讓我開始重新思考這個小事，其中做了很多假設：如果當時我放棄使用導航，改用問路是不是會好一點？或者說，不是那麼一味的相信導航，結合思考來判斷導航是否正確，這樣會不會更快的到達目的地？雖然這些假設目前無法驗證，但是一點是肯定的，那就是當時如果稍微有一點質疑導航的話，我也不會一路走到黑。

的確，隨著4G技術的普及，開車用著導航、走路用著導航，連真正的老司機也放棄了多年的認路用起了導航。當生活中只要遇到找路和認路的時候，我們都會習慣性的打開手機導航，輸入終點，接下來我們的大腦就「退居二線」，一切交給導航指揮，不管前路是否通暢還是「此路不通」，都會堅定不移的聽從導航。

雖然導航可以擺脫認路的煩惱和路痴的痛苦，給生活和工作帶來了便利和快捷，但在這個過程中，也放棄了一些寶貴的東西，比如對於技術的質疑和對頭腦的信任。我們不再相信看到的東西和自己的大腦，而去相信不太可靠的導航技術，去放棄最為可靠的先天優勢。那麼，這是技術幫助我們進化了，還是退化了？

因此，一個被忽略的可怕事實出現了——我們的智商和決定權正在一步一步的被技術剝奪，而這個過程我們是樂意接受的，或者說是無意識的。

一場空難引發的思考

2009年5月31日晚間19點29分，法航447航班從巴西里約熱內盧起飛，目的地是巴黎。這原本是一趟正常不過的飛行，但是不幸的是，飛機在飛越大西洋時墜毀，機上包括機組人員228人全數罹難。

事故發生之後，事故調查即刻展開。據調查，法航447航班使用的是空客A330，這是世界上最先進的飛機之一，飛行平穩、操作簡單。和其他現代飛機一樣，空客A330配備自動駕駛儀，只要設定好程序，飛機便可沿著既定航線飛行。同時它還具備另一個更為先進的電子飛行控制系統——電傳操縱系統（Fly by wire flight control system"(FBW)）。

在老一代的飛機上，飛行員要手動操控飛機的襟翼、方向舵、升降舵和副翼來保持飛行。更多的操控就意味著飛行員必須保持極低或者避免失誤的容錯率和敏銳的反應。而這套電傳操縱系統可以有效地降低人工失誤，使飛行更加安全。

簡單說，在這套系統的存在下，飛行員的操作不是直接反饋到操縱面，而是通過這套系統來檢測飛行員的操作是否正確，然後再發送正確指令來動作飛機的襟翼、方向舵、升降舵和副翼。就等於說，這套系統存在於飛行員和飛機之間，像飛機上的「檢察員」，一方面觀察飛行員的操作，另一方面引導飛機做出正確的動作，保證飛行順利。因此，飛行員假設做出不當動作，也不會造成危險，因為電傳系統也會糾正並且控制飛行。

接下來，看看當天執飛的三位飛行員的情況。副駕駛皮埃爾,凱德里克.傅南，32歲，是個新手，沒有什麼飛行經驗；另一個副駕駛大衛.羅伯特，37歲，飛行經驗比傅南要多一些，但是由於新晉為法航經理，已經沒有全職飛行，多少會有些生疏；58歲的機長馬克.迪布瓦飛行時間最長，經驗最為豐富，但是在當天白天，他和另一名休假的乘務員去逛了里約熱內盧，據事後報道，他上飛機之前只睡了一個小時。

整個機組，兩個是新手，機長是缺覺的，那麼他們是什麼勇氣來飛航班的？正是剛才提到的電傳系統給了他們信心，每個人都相信在它的幫助下，即使狀態不好，也可以保證飛行順利。而且這架A330服役的歷史上，從來沒有出現過事故。硬要說這架飛機存在什麼風險的話，那就是它實在太過於完美了。因此，這三位駕駛員抱著僥倖的心態開始了這趟飛行，但是他們忽略了一個細節：在這套電傳系統的背後隱藏著隱患，而這個隱患就存在於它一旦遭受外在環境影響或者宕機，飛行員很可能因為缺乏應對經驗而手足無措。

這架航班在飛行途中，在赤道以北大西洋上遇到了雷暴天氣。雖然這不是什麼大事，但是機長迪布瓦太掉以輕心，做出了第一個危險舉動，在晚上23點02分時留下沒什麼經驗的副駕駛傅南，獨自去休息室打盹。

面對機長的離去和雷暴天氣，傅南顯得有些緊張，然後就讓他失去了鎮定：「真是見了鬼了！」傅南之後希望可以從雷暴上方飛過去，因此他幾次向空管中心提出了申請，希望批准飛機爬升到36000英尺（約10973米），但是他的申請並沒有得到採納。這是因為飛的更高的確可能避免雷暴帶來的影響，但是一架飛機的飛行高度是有限的，高度越高，大氣層越稀薄，越難以支撐飛機的重量，飛機這時就有可能失速。

這裡得補充一個知識點，與汽車失速不同的是，飛機失速與發動機無關。簡單的說，當飛機升的太快太陡，飛機機翼便會失去升力，於是飛機就會失去爬升力，以至於失去速度，最後以機頭朝上的姿勢墜落。

眾所周知，每一個飛行員在訓練階段就會學習如何控制失速的飛機：將機頭壓下，向下俯衝，使飛機獲得升力，機翼便能正常工作，之後再將飛機稍稍抬起，結束俯衝，飛機進入正常水平飛行。但是這一操作，在後面的所有操控中都沒有出現，原因就在於飛行員並沒有意識到飛機正在下降。

飛機越來越接近雷暴區，機翼上開始出現冰晶。傅南和羅伯特開啟了除冰系統，以防止結冰太多降低飛行速度。就在這時，駕駛艙被一股電焦味充滿，隨後艙內溫度升高。羅伯特告訴傅南這是風暴帶電的結果，並非設備故障。

突然，警報器響了，自動駕駛儀由於空速感測器被積冰堵住無法正常工作。其實，這也不是什麼大問題，這意味著接下來需要飛行員手動操縱飛機。而就在此時，飛機的電傳系統也因為積冰故障轉換至備用程序，也就是說，系統減少了對飛行員行為的監管和幫助，將操縱權交還給了飛行員。

當電傳系統「退居二線」後，飛機立刻左右開始搖擺。傅南為了穩住飛機使勁拽了一下控制桿，結果用力過猛，飛機搖擺的更加劇烈。這時傅南覺得不可思議，因為平時電傳系統能夠糾正一切錯誤操作。但在備用模式下，系統早已對任何操作毫無反應，只會以訛傳訛，無論操作指令是多麼的愚蠢，都會執行。但是這一切，傅南卻不知道，他還傻傻的認為電傳系統一直都在幫助他。

而就在此刻，傅南犯下了第二個低級錯誤：他一口氣將操縱桿拉到底，飛機開始急速陡峭爬升。在大西洋上方漆黑一片，飛機以每分鐘7000英尺（約2100米）的急速爬升，它在獲得高度的同時，也在失去速度。一個自動化的聲音用標準的英語咆哮著「失速！失速！失速！」

突如其來的顛簸打斷了機長迪布瓦的休息，走進駕駛室，此時飛機仍然處於35000英尺（約10668米）的高空，但是正以每秒150英尺（約45米）的速度下墜，同時警報聲也伴隨在駕駛室中。機長面對這一切卻沉默了23秒，他在搞清楚狀況，但是就在這23秒里，飛機又足足下墜了1200米。

這時如果迪布瓦認清形勢，意識到飛機正在失速，拯救飛機還不晚。但是，這時機頭已經抬得足夠高，整架飛機幾乎與海平面呈90度，以致失速報警都不響了。對於這個情況，機組人員犯下了第三個致命錯誤——他們認為電傳系統已經幫助他們解決飛機失速的狀態。但是當傅南稍微調整機頭方向，失速報警又開始叫了。這下飛行員們徹底懵了，開始討論飛機到底在爬升還是墜落：

羅伯特：「注意你的速度！飛機在上升！快下降！快下降！」

傅南：「我是在下降！」

羅伯特：「不對，你在上升！」

傅南：「在上升？好吧，那我們下降。」

終於站在羅伯特和傅南後面的機長迪布瓦反應過來了：「不，不，不.......別上升！...........不...不。」

這時，羅伯特也反應過來了，立刻接替了嚇懵的傅南的操控權，他迅速將機頭朝下俯衝，終於飛機下墜的速度慢了下來，但是一切都晚了。羅伯特和迪布瓦都意識到飛機正在急速下墜，但是誰也沒說出來，只有傅南還不清楚，說出了生前的最後一句話：「到底發生了什麼？」

4秒鐘之後，飛機以每小時200千米的速度撞向大海，法航447航班上的228名乘客和機組人員全部遇難。就這樣，法航空客A330客機于格林尼治時間1日凌晨在大西洋海域上空失蹤。客機上共有216名乘客和12名機組人員，其中包括中國乘客9人。

（以上信息均來自航空事故備忘錄）

從表面上看，失速導致了這起空難的發生，但是電傳操縱系統才是罪魁禍首。這裡並不是說系統「殺害」了整架飛機，而是機組人員太過於相信該系統了，相信的都不敢去信任自己的飛行經驗。確切的說，飛行員們已經對電腦系統形成依賴，離不開它了。在面臨飛機失速的狀態下，他們還是以為電傳系統已經採取行動了，發出警告只是在知會他們飛行遇到了小麻煩，一切都在掌控之中，但是事實是電傳系統已經不工作了。也只有這樣才能解釋整個機組人員為什麼會無視多達75次的失速警報。

作家兼職業飛行員威廉.朗格維舍直接批評法航飛行員：

無能到可怕。

他在《名利場》（Vanity Fair）的一篇文章中一針見血地指出：

這些飛行員根本離不開電腦系統，經驗豐富的機長迪布瓦也不例外。在事發前的6個月當中，他一共飛了346個小時，其中只有4個小時是手動飛行而且全都是在電傳操縱系統正常運作的條件下完成的。

自動化悖論

這種科技越先進、人類反而越無能的現象被稱為自動化悖論（Automation paradox）。它在生活中隨處可見，無論你是在核電站還是辦公室工作，都會遇到。舉個最簡單的例子，手機自從有了號碼儲存功能，想打電話時甚至不用撥號，選擇、撥打兩個動作即可。就這樣我們失去了對於數字的記憶能力，不相信？現在就可以做個測試：試著複述出你男票/女票的手機號碼吧。

再比如，就像前文說的那樣，一遇到找路和認路，就打開手機導航，這樣不知不覺就失去了判別方向感的能力和養成了「路痴」的習慣。

自動化系統越先進，人工操作就越生疏，而一旦面臨問題處理，就會越發的摸不著頭腦，就像傅南死前還不知道發生了什麼一樣。《人工誤差》（Human Error）的作者、心理學家詹姆斯.瑞森在書中寫到：

人工操作是一種高水準的技能，任何技能都需要堅持不懈的訓練才能保持水準。然而，自動化系統剝奪了操作者實踐基礎技能的機會......如果是小故障，一般電腦系統還能應付，而一旦需要人工接管時，意味著出大麻煩。越是這個時候，就越需要負責人有熟練、高超的技巧。

就此，讓我們再來重新思考下無人駕駛汽車。就在剛剛過去的3月，Uber的無人駕駛汽車造成了歷史上第一起行人死亡案件。雖然案件原因還在調查，但是其背後的原因很有可能是人為導致，具體原因我在公眾號里做了解釋，如果你想要了解，可以去關注我的公眾號：失控的紙飛機。扯遠了，回到主題，

目前在研發無人駕駛的公司有我們熟知的特斯拉、Goolge、微軟，百度，甚至俗稱「B站」的bilibili也傳言開始著手研發。從人工駕駛汽車到無人駕駛汽車，其中是一個很大的技術突破和研發過程，而其中有一個過渡階段——半人工駕駛過程。簡單說就是駕駛員還是坐在駕駛位上，但是並不是由駕駛員操控車輛，而是由人工智慧駕駛；只有當遇到突發重大事件時，人類駕駛員才會接管車輛進行避險操控，其他時候人類駕駛員就只是坐在那裡，來監控人工智慧做的每一個動作。

這個過程看似準備到位，沒有一點隱患。但是Uber也是在同樣的情況下路測發生事故。這就引發一個思考：伴車測試的技術員是否也會在過程中產生僥倖心理，對於人工智慧技術迷之信任？

剛開始路測時，技術員必定會毫不分心的監控一切儀錶和路面情況，為保證一切都處於可控條件下。但是在安全行駛一公里、十公里、一百公里、甚至五百公里後，還會像剛開始那樣毫不分心嗎？

人，不是機器，人性中是有弱點的——惰性。惰性會慢慢隨著環境的變化，去產生和改變。就像在幾百公里的安全行駛中，人類就會對於車輛上的自動化設備產生信任，隨之產生惰性和避險技能失調。那麼，這個過程中真的能保證車輛自動化設備不會發生意外嗎？就像信任法航447航班上的電傳操控設備一樣，當失去作用時技術員能做出正確避險操控嗎？這一切都無法保證。

任何技術的進步和突破都是需要時間的，而這個時間是留給人們來思考和抉擇的，無論是無人駕駛還是人工智慧都是一樣的，這個技術趨勢已經到來，我們無法阻止它的到來，但是不要忘了原本的初心——研發技術是為了幫助人類進化，而不是退化的。

智商和決定權正在被剝奪

《進化論》中的「物競天擇，適者生存」我們每個人都懂，每個人都可以像「達爾文」一樣說出很多理論，但是放到現實中卻是可悲的。我們之前都會猜想，人們進化到未來到底會變成什麼樣子，是不是會變得更加聰明、腦子更大等等。但是實際上，人類正在慢慢退化，而且這個過程很多人並沒有意識到。

回想起我們的小時候，沒有電視、沒有電腦、也沒有手機和ipad，有的只是好奇心，對於世界上一切的好奇心，有時就會一下午望著天空看或者觀察地面上的螞蟻們搬家。雖然現在覺得無聊，但是當時會感覺很有趣，因為那個過程我們的大腦在思考。而現在的孩子們呢，一出生就生活在充滿技術爆炸的時代下，很小就學會了玩手機和玩ipad，那麼小的小手在屏幕上指指點點，有些時候玩王者榮耀比我們還玩的6。

其他人看到這一幕，會很開心，感覺現在的小孩子都很聰明，這麼小就會玩這麼這麼複雜的機器了，長大了肯定不得了。確實，隨著生活水品的提高，現在的00後，或者10後，所接受的信息帶寬，肯定遠超我們90後，這點毋庸置疑。但是，這些孩子長大真的會有所成就嗎？對此，我表示懷疑！

最近由於無人駕駛汽車研發進度被更多的民眾得知，很多人都覺得以後考駕照已經沒有用處了，反正以後也不用開車了，還廢那麼大的力氣考什麼駕照呢？就這樣，今天放棄考駕照，放棄學車；

明天說不定就會放棄學習做飯和吃飯，反正以後人工智慧會給人類做飯和喂飯；

後天就可以放棄學習了，反正未來有人工智慧可以幫助人們做一切事情；

那麼是不是有一天就可以放棄活著了？

現在我們沒事就會擔心人工智慧未來是不是會搶走我們的飯碗，到那時哪些人會沒飯吃？其實，對於這些思考，我是覺得有些可笑的。

因為在我們考慮這些的時候，自動化技術正在一步一步的剝奪我們的智商和決定權，對此卻全然不知。有時想想，「剝奪」這個詞已經不再恰當了，用「自動放棄」更為恰當一點，不是嗎？

真到人工智慧出現的那一天，不學無術的人們還在考慮這個傻問題或者在祈求人工智慧不要取代我們的時候，那時的人工智慧看待人類就像《三體》中三體文明看待地球文明一樣：「我，不在乎！」

就像我寫過的一篇文章《對於人工智慧，我們人類到底在害怕什麼？》中寫的那樣，無論對於人工智慧還是無人駕駛，或者未來還有什麼新的技術革新，我們都沒有必要去害怕。我們與其花時間去擔心這些，還不如思考下我們是否已經成為了技術的「奴隸」。

科學技術的進步，是為了幫助人類進化的，而不是成為它們的奴隸。所以，在以後開車的時候，請不要使用導航，試著自己找找目的地，說不定能看到意想不到的景色；在以後想給女票/男票打電話的時候，請不要使用預存號碼，試著回憶下號碼，說不定這樣會讓彼此更加融洽；在以後逛街的時候，請放下手機，多傾聽下他們說了什麼，然後給予回應，這樣說不定你們一天都會開心愉快。

我們的智商和決定權只有自己做主，也只能由我們自己做主，沒人有權利剝奪，因此請守護好它們。未來無論怎樣，我們都要去面對。但是，真的不要被我們自己創造出來的人工智慧看不起！

祝，春祺！

參考材料：

1、《混亂》 蒂姆.哈福德 著

2、The Most Important Self-Driving Car Announcement Yet.《The Athlantic》.2018.3.28

3、「我們死定了」法航447空難最後錄音曝光.民航資源網.2014.10.14

4、法航447的最後4分鐘:史上最神秘的空難事故.鳳凰網.2014.3.10

5、A different world.《The Economist》.2018.3.19

6、周蜜.A320飛機電傳操縱系統概述[J].中國科技信息,2016(12):34-35+17

7、黃國華,李洋,廉風慧.飛機電傳操縱系統的發展概況[J].現代教育科學,2009(S1):414-415

8、胡劍波,褚健,蔡滿意,魏瑞軒.電傳操縱系統模擬[J].系統模擬學報,2000(01):47-48+69

文章作者：康斯坦丁FL，《讀者》簽約作者、十五言專欄作者；

微信公眾號：失控的紙飛機，歡迎關注！

聲明：本文為作者本人原創文章，版權所屬公眾號「失控的紙飛機」所有，文章觀點僅代表作者本人，如需轉載、合作，請聯繫作者，微博：@Fly Levine，謝謝！