【效率-目標-價值觀-感情-意識】手機就是老虎機、次要目標取代首要目標（萬維鋼·精英日課S2 018-020）

02-22

行為設計學behaviour design

設計好激勵和獎勵措施，人會聽你擺弄。主動左右人類行為，這就是行為設計學。
怎麼設計才讓人聽你的去做一件事？（1）這個人必須想做這件事，否則就成了騷擾；（2）這件事這人有能力做到，事情越簡單越好；（3）你得提醒他做這件事，這就是廣告做的事。
商家應該把主要精力放在提升消費者意願上，還是放在簡化流程讓用戶體驗變得容易上呢？
答案很值錢：簡化流程。
一般商家都在吹捧自己，可是改變別人意願非常困難。如果你的東西有很多潛在的用戶，如果很容易能買到，將會事半功倍。
【案例】美國總統大選，很多人有政治立場，懶得花時間投票，與其整天打廣告，不如派個車去接選民去投票。很多銀行的網站。
如何讓用戶上癮？首先是讓用戶第一次接觸你的產品和服務時留下一個好印象：【案例】頭等艙剛坐下時的空姐和香檳；蘋果產品的開箱和開機體驗。其次是讓用戶經常獲得成就感：【案例】微信的回復、點贊和微博、知乎的粉絲，會給人帶來一次愉悅的情感波動。
【變換獎勵原則】大殺器：獎勵隨機化——遊戲獎勵的隨機化。賭場老虎機。開箱獎勵。微信收到點贊時間的不確定性。新型老虎機：讓你看到結果是差一點就中，而實際其發生的概率遠高於正常機器的理論值。
所有人都在爭奪你的注意力，讓你多花時間在他們身上。讓人上癮，就是行為設計學的最核心目標。手機就是老虎機。

018·令人困惑的「大目標」（下）

每次都以繁殖為目標做一番利弊計算就太麻煩了，所以演化給我們提供了一個功能，叫做「感情」。所有感情本質上都是思維快捷方式——本能反應，不用每次都費力計算一番。
這樣說來，滿足自己感情需求，就成了我們首要目標（繁殖）之外的次要目標。
本來求知慾出自安全感和求生欲，不被欺騙...但是現在有很多人覺得追求真理比生育更有意思。
現在人類行為的首要目標，已經從生理上的繁殖變成心理上的情感，人類行為已經不再是為了人類的生存而優化的了。
如果連你都不知道人生的大目標應該是什麼，那你怎麼能讓AI知道呢？讓AI做事的時候，我們都給它一個明確的目標。而當AI發展壯大之後，它會不會創造性地完成你的任務？AI如何找到這個度？如果人的初心都可以被忘記的話，你怎麼能確保AI不忘初心呢？
不管為了什麼首要目標，AI都有這四個需求：自我保護、獲取資源、獲取信息、滿足好奇心。不論AI的首要目標是什麼，它們的次要目標似乎是比較清楚的，而這些次要目標很有可能會取代首要目標。

【吃瓜群眾萬維鋼】

選擇什麼價值觀，恰恰是在選擇受什麼感情主導。而我們的感情，又常常互相矛盾。

019·意識ABC（上）

科學家解決不了，哲學家反覆思考，各路牛人一直在吵的問題：意識。
思考，感情（思維的快捷方式），感覺。意識，就是主觀體驗。
【感質】描寫的是你最基本的感受，是意識的最基本單位，有四個特徵：不可言傳，內在的，私人的（沒法比較兩個人的感質，因為不可言傳），可以意會。
意識是目前為止人和機器的一個本質區別，機器沒有主觀體驗。意識給了我們自我和活著的感覺。正因為人有意識，有主觀體驗，才有人權問題，才有道德問題。如果將來討論對待AI是否需要道德，大概根本判斷標準是這個AI有沒有意識。
如果機器的結構不允許意識存在，就算你死後把思想上傳到機器人身上，也只不過是個假裝的你而已。AI研究的最高級別問題，就是意識。
泰格馬克在《生命3.0》里把關於意識的問題分為四級：
第一級簡單問題：大腦是怎麼工作、處理信息的。這問題似乎是可以用計算機原理解釋的。
第二級比較難的問題：有意識系統和無意識系統之間的物理學角度上的區別是什麼？
第三級是更難的問題：物理性質是怎麼決定質感的呢？
第四級是特別難的問題：為什麼宇宙裡面居然有意識的存在？

020·意識ABC（下）

有意識的行為很少，人的大部分思維、動作和行為都是無意識的，有意識地只佔極少數。
【例如】一邊走路一邊吃東西一邊說話，走路動作、路況判斷、如何吞咽和咬哪裡，這些行為都是自動無意識的，就像自動駕駛汽車。大概只有你說的話是真正有意識的，二期很多遣詞造句還是不假思索就脫口而出。
【例如】人腦每秒接收1000萬比特信息，人能有意識處理信息大概只有10-50比特。絕大部分信息被我們自動處理和忽略掉了。你的眼睛每時每刻都在看一部高清電影。
人的自動行為和有意識行為之間，並不存在一個明星的界限。不熟練的事情有意識地做，一旦熟練就變成自動化無意識的了。【例如】學開車到老司機。
人的意識就像CEO，只負責思考最重要的問題，簡單工作都交給機械化的手下去做。
案例：

AB兩點顏色其實一樣，親測

你感覺A處比B處顏色深，其實是因為旁邊圓柱影子影響了你對灰度的解讀。

人腦中2/3的神經元都在小腦里，但小腦已被證明並不參與意識。腦幹負責你的呼吸和協調很多活動，但它也不參與意識。
目前還不清楚意識到底在大腦的哪個區域里。
意識的反應很慢，本能反應很快。
聲音信號傳遞時間比視覺信號更快，因為我們解讀一個視覺信號要花更多時間。意識反應受到距離影響，腿上傳遞信號的速度比眼睛傳遞慢，因為距離更遠。
如此說來，人體並不是一整台計算機，而是很多台計算機的聯網。意識只存在大腦深處某個區域，而身體各部分都有自己的智能。
朱利奧·托諾尼：整體資訊理論integrated information theory。這個理論號稱能識別什麼東西有意識。
一個有意識的系統必定是一個不可分割的整體。系統信息整合程度：一個量化指標，衡量系統是否有意識。
IIT推論：當前計算機架構永遠無法產生意識。因為當前架構下各部分之間並沒有多少全局連接。
IIT要求信息高度整合，組成AI各部分之間要有很多橫向的信息交流。如果太陽系聯網組成一個有意識的大AI，那麼它的意識反應速度將會非常慢，光從太陽走到地球要花八分鐘。這就意味著，不管技術先進到什麼程度，也不可能出現一個神級AI直接統領一個星系。它必須把權力下放，設置代理人。
當你追求效率時可能覺得意識是個累贅。
所有效率最終歸結於目的，所有目的最終歸結於價值觀，所有價值觀最終歸結於感情，所有感情最終歸結於意識。有了意識，世界才有了好壞，才有了幸福和意義。不是宇宙給了生命意義，而是有意識的生命給了宇宙意義。