機器教育：一把懸在AI頭上的達摩克利斯之劍

教育學在人工智慧研究中的作用

前有深藍與Watson，後有AlphaGo和賢二機器僧，人工智慧（Artificial

Intelligence，AI）的迅速發展讓人們對其愛恨交加：一方面，小到智能手機、手錶，大到智能家電和自動駕駛汽車，大量智能設備早已將我們包圍，其高級和便利之處盡人皆知；另一方面，科幻作品乃至IT名人所言機器崛起卻又著實令人膽寒，智能威脅論頗有市場。由此，產生了觀點迥異的三種「派別」：一種是「激進派」，主張人工智慧永遠不能達到人類智能的水平，所以無須擔心；一種是「保守派」，認為人工智慧很快就將達到並超越人類智能，超級智能（Super Intelligence，SI）終現江湖，因而對未來憂慮不已；還有一種是「溫和派」，既承認人工智慧未來前景輝煌，又能夠理性看待人工智慧發展對人類產生的潛在影響。

無須妄自尊大而目空一切，也不必妄自菲薄而過度憂慮，通用人工智慧（Artificial

General Intelligence，AGI）走的便是「溫和派」路線。然而，正如資料庫行業最初SQL技術獨大之後相繼出現的鍵值對技術、圖技術、文件存儲技術等均自稱NoSQL一樣，作為與主流人工智慧路數相異的其他人工智慧技術也都打著通用人工智慧大旗：從模擬人類的各種神經元到多巴胺濃度，從模擬人類的皮膚到軀體行為等等不一而足。在本文中，我所依據的則是美國天普大學王培教授創立的通用人工智慧理論及其研發的NARS軟體系統。

NARS是一個很神奇的系統，完全自主化獨立運行，能夠完成和人類一樣的強弱推理，也具有操作性技能的學習能力。不僅如此，它還可以萌生出簡單的情感反應甚至初步的自我意識，從而在諸多任務中有傾向性地做出「自己」心儀的選擇而延遲或忽略其他。但是，必須明確說明的是，NARS系統運行伊始並不擁有任何先天的經驗和知識，它猶如人類嬰兒一般，在慢慢的「養育」中才逐漸形成自己的「個性」並習得多種能力。因此，可以認為：通用人工智慧系統在研發過程廣泛涉及計算機科學、邏輯學、數學、認知科學、心理學、人因工程學乃至精神病學等多種學科，然而當系統走嚮應用後其核心學科就只剩一個教育學了。

表面上看，人工智慧貌似和教育學相距甚遠，實則不然。主流人工智慧中近年來大放異彩的「機器學習」便是一例，其中深度學習（Deep Learing，DL）和強化學習（Reinforcement

Learning，RL）更是成效斐然，但此類「學習」卻過於狹窄，其將學習過程等同於計算過程，僅僅是在預設演算法基礎上重新組織輸入輸出而已，實則並無智能可言。然而，通用人工智慧則更進一步。對於NARS系統，同樣的教學內容，一次性「填鴨」灌輸與分批地漸次輸入相比，其學習效果完全不同；分批地漸次輸入與漸次輸入中再加入人類教師向NARS的發問相比，其學習效果又有很大差異。不同的教學內容，由淺至深則比由深至淺的效果好，知識的模塊化輸入又比分散輸入的效果好。由此可見，通用人工智慧系統的學習理論，早已衝破「機器學習」演算法的藩籬，而跨越至更為廣袤的「機器教育」層次之中了。

所謂教育，既要「教」又要「育」，對於機器是否也是如此？主流人工智慧「演算法即教法」，其演算法具有專用性，特定問題的解決有賴於特定演算法及相應參數。一旦訓練完畢，輸入輸出之間的對應關係便被確定下來，實際應用中模型並不會發生任何改變，因此主流人工智慧只有「教」而不存在「育」。與此不同的是，通用人工智慧卻必須兼顧「教」與「育」兩個方面。通用人工智慧之所以冠以「通用」二字，就是因為其並不預設解決具體問題的任何演算法。從一無所知的機器baby到具備外部世界的基本常識，從簡單的人機對話到掌握一定的實用技能，從被動接受外部信息到按自身興趣「量體而為」，每個成型的通用人工智慧產品都是培訓出來的，整個過程和人類培養自身後代一樣，只是速度和效率更快而已。然而正所謂「近朱者赤近墨者黑」，通用人工智慧系統最初只是一張白紙，在其成長之路上，「好人」能夠培育出「好的」系統，「壞人」也能培育出「壞的」系統。也就是說，通用人工智慧系統的教育過程對其道德判斷和最終行為具有決定性影響，顯而易見，「教」和「育」二者皆不可偏廢。實際上，這和人類教育一樣，僅憑題海戰術或片面注重成績，更易產生「高分低能、品行不良」而最終無法適應社會的庸才。這也從側面預示，機器教育將在未來人工智慧領域將佔有何等重要的地位！

那麼，接下來有兩個問題將無法迴避：通用人工智慧系統的機器教育該如何實行？實行後又如何保障「機器學生」們不會揭竿而起反戈人類？

對於第一個問題，我們認為機器教育可以參照人類的教育過程。在最初的系統測試和運行中，一開始採用的正是機器學習「灌數據」的方式，歷經無數次失敗和調優後我們驚奇地發現，所有提升NARS學習效果的做法也同時適用於人類教學。直至今日，在與NARS系統交互時，「由淺入深」及「適時適度」的原則仍一直被恪守。可以預見，通用人工智慧的發展必將對教育學產生深遠影響：教育學的主客體，也即教育者和學習者能否或者如何擴展至機器？教育的基本理論中，能否或者如何吸納並統合人類學習理論和機器學習理論？教學過程中，人教人、人教機器、機器教人、機器教機器有何不同且又該如何施教？機器教育所產生的一系列嶄新問題，極大拓寬教育學學科邊界的同時也深化了其內涵和外延，令人們對教育的審視躍升到了一個新的層級，而在更廣泛的視角下研究教育和學習的一般規律。然而，必須說明的是，不同於「教」，不論人類教育還是機器教育，「育」都是一個操作性的難題。與人類相仿，通用人工智慧系統不僅能夠形成自己的判斷，而且判斷背後所依據的信念也可以發生變化，簡單地習得「愛護人類」、「維護地球和平」等此類知識也只是教條而已，其實並不起作用。

於是，便碰到了第二個問題：如果不起作用，「機器學生」便有可能反戈人類了？是的，誠實地講這確實是有可能的，這就是我們的答案。那麼，能否把道德律令以指令的方式嵌入通用人工智慧先天的代碼之中，讓其永受制約？當然可以，但對通用人工智慧系統卻用處不大，正所謂「上有政策下有對策」，它有很多種方法（如自欺欺人）來「正確」解讀這些固化在系統中的律令，也有很多辦法（如自體定向複製）「繞過阻礙」而「追求自由」，這也正是系統具有「智能」的表現。不過不必驚慌，通用人工智慧系統和人類雖有衝突，但之間的依存關係卻更為緊密，況且二者需求交集也較小，並不會對人類構成實質性的威脅。從根本上，人類應該做好的事情正是機器教育，這會使得絕大多數的通用人工智慧系統都理解和尊重人類的愛和友善，即便有少許教育失敗的產物，那麼也只需依靠經受「良好教育」的通用人工智慧系統來自治並制衡那些「不良教育」的系統便可，並不是每次都需要人類參與而大動干戈。其實，這並不奇怪，我們人類的歷史就是如此。

綜上所述，儘管人工智慧的發展為人類帶來了機遇和挑戰，但大可不必杞人憂天，只有真正腳踏實地做好機器教育才能高枕無憂，因為機器教育就是那把懸在人工智慧頭上的達摩克利斯之劍。

劉凱. 教育學在人工智慧研究中的作用[N]. 中國社會科學報,2017-10-10(005).

推薦閱讀：