《西部世界》關於人工智慧的理解在現實世界中可否找到案例？人工智慧到底是可愛還是可怕？

01-02

HBO熱播的新劇《西部世界》再一次引發了人們對人工智慧的熱議，而媒體行業關於人工智慧風也吹得很火，機器人寫稿等話題持續發酵，對於媒體行業來說，人工智慧到底是好是壞？

就像幾百年前人類發現地球不是宇宙中心一樣，AI會讓人發現其實「智慧」這個東西也沒那麼了不起。

媒體的精髓本就不應該是寫稿子，而應該是發現、闡釋和再表達。如果人工智慧把媒體人從繁重的寫稿任務中解脫出來，而能讓媒體工作者把更多精力放在更豐富更有趣的選題上，難道不是更好的事情嗎？

最新一集《西部世界》看的人毛骨悚然，Bernard竟是機器人，不僅在Ford的操控下管理著一大幫機器人，甚至還能根據指示殺人。另一方面，Arnold留存在機器人腦海中的指示不斷重現，接待員們行為越來越失控，機器人要全面造反的節奏。

此外，一系列蛛絲馬跡都指向西部世界這位最早的操縱者Arnold也是機器人，人工智慧與人的界限越來越模糊，西部世界中殺氣越來越重。

除了影視，在現實世界中，關於人工智慧的熱議度今年也可謂一時無兩。在互聯網圈內，我們不斷暢想著技術發展、奇點臨近給我們生活帶來的巨大影響，現實生活中，人工智慧作為人類手和腦的技術延伸，的確在不斷擴展人類的能力邊界。

但拋開人工智慧探索出的累累碩果，從理性角度來說人工智慧還只能算個新生兒。雖然在《西部世界》中，出現覺醒意識的機器人已經開始自主探索人生的意義，但大多數機器人仍在被代碼操控，包括台詞、動作。現階段的人工智慧，可以用「有智能沒智慧、有智商沒情商、會計算不會算計」三句話來描述當前的發展水平。冰冷的技術並未賦予機器人的感知力，在一系列的選擇問題上，人工智慧依舊只能按照設定好的程序一步一步走。

回顧人類發展人工智慧的初衷，人工智慧的使命本就該以人為本，只有人自己，才最懂人，也最懂得應操縱人工智慧到什麼程度才安全，目前機器學習還是基於大量樣本。

究竟是為人所用還是人被拉著走？

之前看過剛剛加入谷歌，時任斯坦福人工智慧實驗室主任的李飛飛的一句話，「technology has to be benevolent，要站在人性的角度去思考技術。這也是為什麼在人工智慧的熱潮下，「人機結合」的觀點，能被作為人工智慧的發展方向，不斷被眾人提出的原因。但目前來看，人工智慧的應用在一些技術產品上，明顯被本末倒置了。

同樣是造福人類，人工智慧有商務類、生活類，本篇暫以每天大家接觸最多的人工智慧領域展開分析。看資訊，是人每天都要做的事情。互聯網出現之前，資訊傳播的流水線由人類全面把控，記者制定選題采編、紙廠印刷、訂閱分發。而隨著互聯網出現後迎來信息爆炸，技術開始出現在資訊生產、分發環節。原本需要編輯來完成的選稿、推薦、糾錯等工作完全可以依靠機器演算法來實現，大大提高了工作效率。表面上看，科技是由於效率高淘汰了人工，更深層來講，人類是被某個層面的自我打敗的。我們在看新聞時，因為自我惰性，根本無法有效發現、獲取和管理對自己真正有價值的內容。

機器在運行的時候，那套邏輯中道德標準和營養是缺失的。以個性化推薦來說，點擊量越多的內容，就會作為推薦的重點，不管內容價值究竟值不值得作為推薦重點，有可能只是一個洗頭妹的半夜心聲和吸眼球的地鐵性騷擾。其次，上次你點擊了什麼，下次還給你推薦什麼。所以，由於一時好奇點擊了個娛樂新聞，接下來一個月我都別想消停，除非每次都點擊不關心，不然這類我只想一次性消費再也不需要的資訊會永不退場。

機器無法按照人的邏輯去判斷內容價值，在機器的維度，只有點擊量、點贊量、轉發量等冰冷的數據，它無法探求數字亮眼背後的深意和危機。

再厲害的人工智慧，都必須在人工編輯的基礎上，才能善始善終。

《三體》作者劉慈欣曾在九月某場科學討論會上提出「人機結合可能是人類進化的一個方向。」

在機器領域，人是永遠都不可能退場的。尤其是媒體行業，編輯主意仍然是保障價值閱讀的必備因素。

但在媒體行業，如何平衡人與機器已經成了空前難題。這裡有一些觀點，分享給大家參考:

「儘管機器在內容分發領域帶來極大的效率提升，要做到完全取代人工編輯仍困難重重。原因在於，單純依賴用戶瀏覽行為進行個性化推薦的邏輯雖然切中了人性弱點，卻也非常容易帶來內容品質的下降。

作為技術發展的產物，演算法+深度學習的人工智慧在資訊領域的運用開啟了個性化推薦時代，卻又因為把關人的缺席助長了人性弱點，讓閱讀價值悄然流失。但是機器與人性的平衡並非不可求，實現閱讀價值最大化的關鍵還是在於移動資訊行業從業者如何運用。」

「通過機器演算法幫助用戶從海量信息中找出真正有趣有料有用有品的內容，再根據用戶興趣圖譜推送，是一點資訊的平台核心技術優勢。而人工編輯憑藉專業經驗的對機器進行訓練，讓機器能夠更加精準地將具備價值性的內容有效分發給對這部分內容真正有需求的用戶。這也是一點資訊與單純為了增加用戶使用時長而選擇基於人性弱點來推薦內容的平台的最大區隔。」

以上是筆者前段時間參加一點資訊線下沙龍時，一點資訊架構師王元元進行的解讀。

最近，一點資訊的人機論是本人在行業里聽到比較多的，和單一傳播技術有多好有多不可替代不同，一點資訊顯得十分克制、清醒。不僅在審核、分發層面，未將主動權全部交給機器，在創作層面，也十分重視機構媒體等以內容質量取勝的信息來源。

再說回人與機如何平衡的痛點，一點資訊提出的解決之道，是不要因為技術優勢放棄編輯主義，內容分發平台作為為用戶輸送內容的平台，更應在流量與利益面前保持清醒，堅持品質和價值。

最近本人在反思，目前新聞客戶端是否有點太著急了？個性化推薦火了，就非得在傳統新聞客戶端里加點推薦元素，前景都未可知呢就著急跟風？雖然未來的媒介形態還不知道會發展到什麼地步，傳統媒體的宿命會如何也為未可知。但作為推薦給人看的內容，在審核、分發層面怎能少了最懂人性的人類自己呢？

題外話，《西部世界》的編劇諾蘭一直對人工智慧有著蜜汁執著，從之前的poi就可以看出端倪，但他始終為我們傳達這樣一個理念：再厲害的人工智慧，都必須在人工編輯的基礎上，才能善始善終。

人工智慧對媒體來說絕對是有好處的。就像蒸汽機推進社會進步，進而帶來媒體的突飛猛進，人工智慧無外乎也就是一個工具，這個工具能夠讓更多的資訊累加併產生耦合，進而迸發出更多具有價值的信息——現在的信息不是太多，而是信息的再加工能力不足以支撐起大家的需求。各家新聞客戶端都在打這張牌，頭條是純技術，一點資訊是人機結合，騰訊新聞還是以編輯為主。如果從我前面說的那個邏輯來看，就像蒸汽機需要結合人的智慧一樣，人機結合是更加具有價值的方向。

當我對人工智慧的印象仍然停留在機器人
WALL·E的愛情故事裡，朋友圈已經被《西部世界》刷屏了。不同於WALL?E的浪漫主義死性不改文藝宅男機器人設定，西部世界充斥著殺戮、強暴、懷疑、抗爭、復仇、驚艷……，人工智慧這個概念又一次在人類不甘孤獨的想像中歷久彌新。

無論是科技的發展、生活方式的改進還是我們內心那點隱秘的孤獨感，都讓人工智慧在冰冷的科技外殼下始終保持著關乎人類文明的鮮活情結。回歸現實生活，人工智慧並沒有那麼神秘，看各大公司也牢牢抓住這個點各種造勢，大有扼住未來的咽喉之感。其實，看看我們手上的新聞客戶端，你就會發現，哪怕是一個放在銀河系可能看起來微不足道的智能技術，都貫穿著人類愛恨交加的情結。在新聞資訊領域，人工智慧早已不是個新鮮話題。

今日頭條就很典型。張一鳴堅定的反對編輯干預，在技術上的堅持是有目共睹的，一切以數據說話是他的方法論。而今日頭條的發展態勢、融資狀況似乎也證明了機器演算法和個性化推薦擁有人工編輯無法比擬的優越性。不僅僅是今日頭條，放眼整個移動資訊行業，機器演算法、個性化推薦看起來都成了不用就會落伍的手段，趨勢使然。可是我們在驚嘆技術發展的同時也被客戶端推送給我們的信息困惑著。

我自己都不知道原來我這麼低俗

相信很多用資訊客戶端的知友都問過一個問題，為什麼客戶端三天兩頭給我推薦老漢出軌兒媳婦、xx明星臉部僵硬疑整容、女人維持婚姻的秘密……要有個明星熱點，比如王寶強離婚了、霍建華結婚了，準保首頁都刷出二十條。有營養的和沒有營養的、真實客觀和未經驗證的、標題黨和客觀性內容交相呼應真是眼花繚亂。個性化推薦，好想對全世界解釋，不不不，這不是我的個性！畢竟，打開資訊客戶端，刷刷頁面都怕被人看見……

即便推薦神准，信息繭房怎麼破？

推薦演算法的本意是想要為用戶打造一個專屬的個性化世界，其邏輯是「如果足夠了解用戶，就應該為用戶推薦其感興趣的內容」。於是，通過互聯網和演算法呈現的一切，都與用戶的觀點、興趣高度趨近。可是，我們這些孤獨的人不應該被囚禁啊。我本來就夠孤獨了，像只井底之蛙一樣只能看見360°石壁和一片圓圓的霧霾天空，你還得給我建個孤島？抱歉，我本人就是一座孤島。相信太多人跟我一樣，並不喜歡趨同，而是喜歡不一樣。吃飯要吃的膳食均衡，看資訊也是。

那麼，作為一個新聞客戶端，能有點三觀硬朗的新聞價值觀嗎？當然可以有。可是技術打破了新聞價值觀和產品道德感，大概因為精準推薦作為現階段的人工智慧還比較弱小吧，還沒有進化到知禮儀、有廉恥。

前幾天下載了個新的app，是因為看見了它的廣告語，有趣有料有用有品。無論接下來的市場是否可以完美驗證四有理念的執行性，這在個性化推薦的大浪潮里都是一個良好的發聲，至少，這說明還是有產品在乎道德品味的。對於新聞資訊客戶端來說，他們的意義不僅僅是企業產品，還承擔了一種社會責任和新聞道德（資訊產品們憋辯解，你就是責任大），無論浪潮多麼狂熱，理性永不可卻。而某種意義上，理性即道德。

回歸正題，人工智慧到底是可愛還是可怕？也許就像我們人類對接近自己的物種懷揣的感情一樣，愛恨交加，又愛又怕。但不管技術如何發達，理性和道德永遠是人工智慧的必需品。

今年是人工智慧誕辰六十周年，也算是人工智慧最熱鬧的一年，年初的AlphaGo人機大戰無疑將其強勢的推入大眾視野，而這一次腦洞大開的《西部世界》再一次把它拉入了互聯網討論的核心圈。

社會科學中將人類心理活動劃歸為三種基本形式：知、情、意。而截至目前，人工智慧的發展依舊處於「知」的階段。微軟亞洲研究院院長洪小文也將人工智慧按智力級別分從功能、智能、智力再到智慧的四個階段.從量變到質變的四級跨越中，最後一步才是人工智慧和人類真正交匯之處，而目前人工智慧還僅僅在功能到智能之間的階段。

和人腦相比，此階段的機器化智能的確存在很多優勢。硬體方面，無論是每秒33.86千萬億次的浮點計算速度，還是隨便512GB和動輒幾百TB的存儲容量，都將人腦遠遠甩在身後。另外，從軟體層面來講，諸如個性化推薦系統、基於計算機視覺的輔助駕駛系統等智能演算法的應用升級，可以幫助我們更好的思考和工作，甚至為我們的部分決策提供支持，大大提高了我們的生活效率。

但是這個階段的劣勢也很明顯，即使人工智慧整體上並未超過人類智能，但不加控制的片面的人工智慧也可能給人類帶來危害。

就像波斯特洛姆（Nick Bostrom）提出的曲別針思想實驗那樣：如果一種人工智慧系統被設置為使曲別針的產量最大化，那麼，這種人工智慧系統很可能具有無法滿足的胃口，不斷地獲取物質和能力，走上首先將地球然後將整個可觀察宇宙的大部分都變成曲別針的道路。另外，互聯網、物聯網技術使得人工智慧的安全問題更加複雜化。比如，如果黑客控制了人們家裡的兒童看護機器人助老機器人或其他智能系統等，由此導致的後果將不堪設想。一方面即使人工智慧尚不如人類智能但網路技術極可能使我們對人工智慧的依賴演變成災難，例如盲從人工智慧形成「數據主義」的新教條主義也會照成認知局限例如今日頭條充斥著的大量低質內容，實際上扼殺了用戶向外認知和學習的能力。

事實上，伴隨著各種利好，人工智慧威脅論的說法也從未停止。記得比爾蓋茨去年某次大會上說過，「人類需要敬畏人工智慧的崛起」。另外，霍金也時不時出來「叫囂」一下人工智慧威脅論。還有今天在深圳高交會上的「小胖」機器人傷人事件，讓不少人驚呼「原力覺醒」。

除了敬畏，我們還應意識到控制的重要性。LinkedIn創始人霍夫曼曾表示：「雖然運用人工智慧和其他技術可能會徹底改變我們的經濟、我們的工作場所，甚至是我們對人類的認識，但是我們必須記住這樣一個基本事實：創造哪些激勵機制以及重視哪些價值因素都是由我們自己決定的。」

實際上，人工智慧技術到底是福或為禍，關鍵仍然在於我們自己的選擇。因為機器或智能演算法本身並沒有是非善惡之分，關鍵在於如何運用。傷人的「小胖」其實並非「它」自己的情感本意，而是編寫其程序的程序猿搞不好在搬磚時偷看了幾分鐘《西部世界》而導致的bug。在此，我想說的是，面對日新月異的機器人技術，人類需要的是與之相匹配的使用智慧。

TechRepubic網站撰文就曾指出：「人工智慧和機器學習依舊有著無障礙溝通、信任、缺乏明確的抽象壁壘等問題，而解決這些問題的訣竅在於讓機器和人類協同工作。如果能夠在機器和人之間找到那個平衡支點，那人工智慧或許能突破理解力的局限性。」

人工智慧帶來的顛覆主要分為兩大類，一類是自帶危險性的，不管是機器人傷人還是機器人主導人類閱讀走向低俗化。另一類是自帶替代性的，機器人開始取代越來越多人的飯碗，逐漸代替人類，這些飯碗橫跨各大行業，有保姆、秘書還有編輯、實時語言翻譯。

而人工智慧之所以能這麼smart，是因為他站在巨人（數據）的肩膀上，可以高度模仿人。AI的每一次判斷和把握能力出自於成千上萬的海量數據計算。以AlphaGo為例，它擁有一個資料庫，裡面有十幾萬份人類6-9段職業棋手的對弈棋譜。Alphago從中模仿人類常見的落子方式，根據谷歌透露的數據，模仿的準確率達到了57%。也就是說，單單這一項功能，就可以使Alphago在一步的選擇上有57%的概率與人類高等級職業棋手相同。

同理，聰明的像人，但始終不是，依然僅存於「像」的階段。人工智慧所有超越人能力之外的smart，都是基於人。換言之，是人賦予了人工智慧smart的能力。

但是，現在我們已經走到這樣一個臨界點：依靠現在的技術，我們已經能夠淘汰數目更為龐大的人工勞動力，但如何合理運用、控制，造福人類而不自傷是我們還沒有學好的課題。

這兩天一直在看關於在烏鎮的世界互聯網大會的相關報道，幾乎每個大佬都提到了關於人工智慧方面的想法。最有意思的是李彥宏才提出來「移動互聯網時代已經過去了，下一個風口在人工智慧，」緊接著馬化騰和楊元慶就雙雙反駁了他的觀點。在這一點上，我認同小馬哥說的，「人工智慧只是一個新技術和工具，它會結合在所有領域，通過大數據，提升各個行業發展。」人工智慧只是入口，必須有落地的技術和剛需才能讓這個美麗和科幻的泡沫變成永恆。

此外，人工智慧運用的效果如何，關鍵不是看對人工智慧的態度，而是看對「人」的態度。如果一開始就認定人工智慧是高效率的、智慧的，而人是懶惰的、無知的，那必然不會得到很好的協同效應。

從這兩年爭議不斷的個性化推薦技術來看，完全將判斷興趣的任務交給用戶，操作方式十分常規，即用戶在看資訊時，點擊「感興趣」與「不感興趣」，閱讀被變成了一場算數考試。人工智慧不像機器，人倒顯得更機械了。

「其他平台則假定用戶是懶惰的，更多依據用戶的歷史瀏覽行為來猜測用戶喜好，通過機器演算法自動判斷並向用戶推薦他所喜歡看的、點擊率高的內容。」

「媒體平台在這樣一個所謂技術創新、演算法驅動的時代，尤其要注意平衡，我們的目的還是回歸到人，如果媒體完全是依託機器，根據點擊率來決定用戶看什麼，結果就會變成聳人聽聞的內容會佔據我們的信息流」

這是一點資訊CEO李亞對人工智慧的一些看法。剛開始聽到這段話，個人覺得，理論不錯，但誰家能做到?分析了一點資訊的演算法，我發現其實他們還是有做了一些很不錯的嘗試。

一點資訊基於海量的推薦系統，建立了一個非常龐大的反饋系統，交叉特徵收集點擊反饋，最後形成非常有價值並更加緊制的特徵。GBDT也引用了在線學習的技術，在線的LR會比特徵規模大很多，特徵規模還在不斷增加。這個過程中，如果數據不夠了，他們會把GBDT的特徵也放進來。最近比較熱的DNN技術，放在點擊率預估都是比較直接的，甚至像LR的高質量的離散特徵，直接放到DNN的框架中，也會發揮比較好的效率。

對演算法而言，用戶表達的興趣越多，最後停留時長、點擊數越多，它們兩個之間有非常強的正相關的關係。從數據到用戶是用戶畫像的建立過程。但對以技術為核心的資訊產品來說，只有用戶當前的畫像是不夠的，有必要進一步探索最有價值的獲取畫像的方式是什麼。

以上這些分析可以看出，他們所做的嘗試，首先都是基於人，人工智慧只是為用戶興趣服務的一個工具。

所以關於這個問題，人工智慧到底是可愛還是可怕？各位，答案早已自白於心了吧。

西部世界對人工智慧的發展理解是正確的，人工智慧有進化能力（員工不斷修改程序），有淘汰機制（員工不斷地淘汰落後和損傷的AI），長此以往，AI對外界刺激的反應就會越多樣化和發達，就會逐漸有能力區分出外界和自身的不同，而萌發出自我意識。

然而西部世界的AI和高度擬人的機器人是合一的，目的是為了塑造逼真場景供遊客娛樂，這種第三產業是比較特殊的，因為在絕大多數情況下是不需要AI有這麼高度擬人狀態的。比如電話客服未來就會AI化，接聽到顧客電話後以語音回復顧客，不需要見面所以這樣的AI可能只存在於電腦機箱里。工廠里的機器人則可能沒有移動能力只有一兩個機械臂，一些從事具體單一工作的機器人如掃地，煮飯，化妝的機器人也完全沒有必要高度擬人，往往都會是奇形怪狀的，肢體功能不全的。

可以拿wall-e里的飛船舵輪AI舉例，表面看這樣的AI會反叛給人類造成災難，其實本質還是因為設計人員失誤所致，是BUG導致的錯誤，並不是AI的覺醒，最關鍵的是，此AI只有舵輪外形，無法自由行動，還有一個致命的按鈕可以被人類關掉，所以這類機器人是一點都沒必要擔心的，如果真發生災難也要去扣設計師的工資才對，人們對AI的不信任本質還是對人類同類的不信任罷了。

對人工智慧印象最深的應該是那部電影吧，說來人對機械真是既畏懼又殘忍，如果人工智慧有了感情，那未來世界將是什麼樣的，想來有些可怕

想起攻殼機動隊，除了不是爹媽生的，未來的人工智慧和人類有什麼區別呢，細思極恐

人工智慧有利有弊吧，一方面可以帶動生產力，節約人力物力，提高工作效率；另一方面也可以滋長人們的懶惰，當我們不經常用腦，不思考的時候，人生的價值也在一點點流失了。

人工智慧越來越火了。人類往往連周圍的異見都很難容忍，對於自己的非同類卻表現出了極大的接納。現在，孤獨的時候我們跟siri說話，那麼未來，是不是真的可以有更多完善的機器人成為同伴？想想覺得太棒！

至於普通傳媒民工，可以轉行了或者呆公司里做機器人慰問師……當然，你手下的每個機器人要有不一樣的程序，有的程序負責情懷掛的，有的負責官方掛的，有的負責騷浪賤的，有的負責拉廣告的……為什麼不設置一個全能的，設置了全能的要你何用啊……

大部分的影視作品在涉及到未來等話題時，為了展現出深刻，一般都會引入一些哲學的思想.

哲學從來都是具有一定的煽動性的，因為它足夠理性—或者說它表現出來的樣子足夠理性.

這麼理性的東西，對於擁有一個五毛錢的大腦的我們來說，無疑是摧毀性的.你的大腦一方面要替你著想，滿足你渴望獲取答案的小心思；一方面又要替你保存能量，讓你只進行簡單的思考.

於是聰明的你在經過一系列自以為精密的分析後，發現：

「日狗了，這個世界好像真的如同哲學家們的結論那樣.」

一旦懷疑的種子埋下了，便會有生根發芽的一天.（其實懷疑又何嘗不是另一種形式的希望？當然，聰明和精密都也只是哲學家們和你的大腦配合製作出來的假象.）

難道你不是每次在「恍然大悟」後，都迫不及待的想要分享給其他人嗎？

人工智慧對於媒體的意義就在於此；他們樂此不疲的宣傳人工智慧的動機，也在於此.

可我們依然想獲得答案，對不對？

在《2001太空漫遊》里的人類獲得了答案，至此以後，人類作為「人」的旅程已經結束了，無論發生了什麼變化，他們都是一個新的物種，而不再是人類.

牛頓想獲得答案，愛因斯坦想獲得答案，我們太他媽想獲得答案了.

你能滿足於自然選擇嗎？你能滿足於物種演化嗎？

創造才是「答案」.

我不是鼓吹腐朽的神學，而是在告訴你你內心真正所想.你明白的，不找到創造者，你不會死心.

這裡的答案，指的不是真理，而是你心靈的盡頭.

回過頭來看人工智慧，當人類開始記錄第一個比特的時候，它就已經獲得了答案.

所以人工智慧是沒有哲學的，當然也就不存在人文和藝術，是徹底的臭流氓.

諸位，流氓不可怕.

可怕的是這個流氓比我們每個人加起來都要有文化.