科幻的世界並不遙遠

02-09

這幾天的人機對決看的我很心痛，一方面是首日禁直播，緊接著是富二代瞎BB，最後則是無可奈何的慘敗，對於柯潔，對於圍棋，我已經沒什麼好說的了，勇者所痛心的到底是喪失了關鍵的一戰，還是痛心從此再也無窺探天道的機會呢？我難以評斷，也沒資格置評，所以我決定說點我能談的東西。

很多人並沒有意識到的是，這場對決——準確的說，是阿爾法在隨後放出的50盤棋譜真正意味著什麼：

人類，正式進入了科技黑箱的時代了。

所謂科技黑箱，就是指人類可以應用卻無法理解的東西，比如你們手裡的手機、面前的電腦，絕大多數人類缺乏製作這些東西的知識，但卻可以應用它，這種東西就叫科技黑箱。

我們早已經在這樣的黑箱序曲中生存了很多年了，任何科技的未來都是黑箱，即只有少數人可以理解其運作遠離，甚至沒有任何人能理解其全部構成，由很多複雜個體組成，卻能為一無所知的人所應用的科技產物。

但是過去的科技黑箱還有一個原則，那就是黑箱內的內容人類雖然不能完全理解，但依然在人類整體的知識框架之下，所以說，這只是一個時代的序曲。

而狗的50盤棋所代表的就是，一種由技術單獨輸出的，超越人類理解的「黑箱解答"。

現在，人們無法理解狗的五十盤自斗譜，卻已經可以確信這五十盤譜裡面蘊含著至高的棋理。

以後，會有更多的人工智慧，介入人類更多的方面，它們會輸出更多的」黑箱解答「，而如何面對這些黑箱解答，或許會成為下個時代最大的難題。

比如說吧，當一個AI，通過對你身體狀況和味覺細胞的分析，輸出了一份最完美的食譜，這份食譜是世間從未有過的，但只要照此執行，就可以做出最適合你的那道菜，你怎麼辦？

當一個AI，能夠自動生成經濟政策，即使果斷的反饋一切市場信息，讓市場永遠良性發展，而全世界的經濟學家都看不懂它輸出政策的邏輯何在，你怎麼辦？

當一個AI，能夠完美的指揮戰爭，分析出一切變數，制定出最完美的作戰方案，而這個作戰方案或許意味著很多如50自戰譜中不可理喻的作死部分，你又怎麼辦？

我知道，人類必然會有疑惑，必然會有顧慮，必然會為一些倫理方面的事掀起一些大討論，而最後，必然會屈服。

當AI一次一次證明了自己的精準和強大，人類就會越來越依靠AI，依靠AI輸出的黑箱解答，依靠這些人類不能理解的答案來行動。

然後建立在AI上的交通網路，建立在AI上的經濟政策，建立在AI上的分配製度，建立在AI上的社會規則，都會紛紛誕生，並終有一天會出現一個回答人類一切問題的「終極電腦」。

好的，問題就在這裡了。

如果這個時候，這其中的某個環節出了問題，怎麼辦？

人類甚至無法理解具體是哪個地方出現了問題，修正更無從談起。難道要科學家們從那個時候已經堆成了天文數字的數據裡面逐條演算到底是哪個出了問題嗎？

由此再想，何止是AI這樣呢？

依賴科技黑箱的世界，技術永遠是掌控在少數人手中的，而我們這些使用者，只是作為經濟結構上的一環，通過消費產品來為研究者提供資金的枝節罷了。那麼，當科技繼續發展下去，知識的複雜程度持續升級，超過了大多數人類的智力極限，會不會有一些科技……瞬間斷裂呢？

我們這個文明，和我們未來的文明，恐怕並沒有我們所想像的那麼牢固吧。