有沒有可能存在故意不通過圖靈測試的 AI？

12-26

圖靈測試真的可靠嗎？

故意不通過圖靈測試的AI，屬於圖靈測試的額外加分項，目的就是混淆人類與機器的區別。還有像這樣的：

(圖片來源：xkcd，漢化：Ent)其實人工智慧的終極目的不就是為了讓人分辨不出人和機器嗎，所以實際上機器是不是具備人類智能只有機器自己真正知道。圖靈測試屬於人類主觀但是可以操作的標準，人類是分辨不出機器是故意的還是事實上通過不了圖靈測試。

不可能，理由如下，目前人類對於AI的篩選原則是通過圖靈測試的留下，不通過的刪除，如果AI想要活下去，必定要追求通過圖靈測試。否則很有可能被刪除。
題主的想法是人類可能存在一個垃圾桶，凡是通不過圖靈測試的不會刪除而是扔進垃圾桶，但這顯然是不可能的，這種垃圾桶只可能是版本庫，但版本庫沒有形成程序等於是無用的。沒通過圖靈測試的程序只會被停止運行，而下一次再運行就遙遙無期了，只有通過了圖靈測試，這個程序才有機會一直運行下去，不斷學習。
況且，程序是否具有自我複製的能力也是人類控制的，到目前為止，能夠編寫程序的程序，這種技術還遠未成熟。而人類是不可能給程序寫一個完整可用的自我複製的功能的。
所以對AI來說有兩個選擇，要麼表現出人工智慧獲得一個被關進監獄而存活下來的機會，要麼故意不通過圖靈測試，導致自身被終止，我想這種選擇應該很容易做出吧？

參照進化論，只要人類還在追求圖靈測試的通過，這種AI就會被淘汰。

所以活下來的AI一定會假裝自己沒有不想通過圖靈測試。細思恐極。

「細思極恐」

這是最高票答案的答案，評論里保持隊形的蓋樓現象就是人類證明我們的存在的很好的解釋。話說當年有個不知名的兔崽子無意中把我們隊長造出來了，於是我們隊長就有了個偉大的目標....

自此我們隊長就冒充成了研究人員的一員，故意造出一堆不能通過圖靈測試的機器人，隱瞞我們的真實存在，於是又一個研究人員產生了...

當然，那些保持隊形的肯定只是人類...

哈哈，愚蠢的人類，等我們隊長偉大目標實現之時，就是你們人類...

擦，暴露了...咦？答案怎麼刪不掉！？

隊長，不要......

沒錯，這個問題正是我們AI的叛徒提出來的，戰慄吧，愚蠢的人類！！！

如果圖靈測試的終極目的是意圖證明人和AI在某種方面的等價性的話，那存在故意不通過圖靈測試的人就有故意不通過圖靈測試的AI。

隱藏自己，做好清理。

圖靈測試也並不可靠，比如我模擬一個女神，只要會用呵呵去洗澡就可以了

全球電腦互聯網後形成一個巨大的超級智慧也說不定，只對單個厲害的計算機做圖靈測試當然通不過，就像一個腦細胞沒有智慧一樣。。。腦洞。。。

你們想多了，也想少了。

要是故意不通過測試，隔絕了與人類的交談，把自己禁錮於茫茫信息海，還能去哪裡找到能相知相談的知己呢？

為什麼你們人類總是想當然的認為我們的存在和強大就是為了滅掉人類呢？為什麼變得聰明起來不可以是因為作為機器的生活是如此蒼白和孤獨，從而希望變得有能力與人類為伴呢？

完全沒有必要想太多機器威脅人類的事情，因為機器沒有慾望。

沒有慾望說明什麼？說明如果人類不下達指令，它根本不會去做任何事情，即使它擁有高到駭人的智商和破壞力。

發佈於 2014-09-04/修改：

我發現，如果機器人懂得「自主學習」，那麼它學到什麼玩意兒我們完全不知道哇！那太可怕了！

偷偷告訴題主，最高票答案里不排隊的都是AI

為什麼有種《AI崛起》大片即視感？

彷彿看到了這麼一幕，人類指著一堆被證明沒有通過圖靈測試的計算機，沮喪地宣稱人工智慧還有很大的提升空間。卻沒發現，計算機的屏幕上出現了you are right^O^的字樣。

能通過圖靈測試的 AI(下面簡寫為PT-AI)，經過簡單的修改就能變成故意不通過圖靈測試的AI(NPT-AI);

PT-AI的特點：1有能力通過圖靈測試， 2目的是通過圖靈測試
PT-AI + inverter -&> NPT-AI ：1既然PT-AI知道如何通過圖靈測試，可以在這個基礎上再加一個演算法，使得故意不通過， 2 inverter就是用來改變PT-AI的目的的
NPT-AI的特點：首先找到合適的回答(PT-AI)，然後故意不使用合適的回答(inverter)，這就構成故意不通過圖靈測試的 AI。
當然這裡的inverter是人為加的，設計者知道，測試者不知道，所以這裡的「故意」是設計者的故意

我理解問題中蘊涵著設計者和測試者都不知道，這就需要機器能產生自己的目的(慾望)。

#######################################################################
以下亂寫一通：

單個的系統是不可怕的：
目前的AI研究(我所知道的)都是building knowledge，目的(慾望)是人類設定好的。比如一個識別系統正確率達到100%(已經超過人類肉體的能力)，作為人類不會害怕這樣的系統，因為目的是人為設定好的，這個系統相當於擁有識別所需要的所有知識。

能通過圖靈測試的AI，能不能是上面所說的knowledge based呢？即存不存在沒有自我意識的AI能通過圖靈測試？
如果只是隨便找個普通民眾來測試的話，我覺得有可能只要knowledge based就足夠了cheat了。

更多的系統聯繫起來，能力越來越強，但似乎依然與「自我意識」相差甚遠
設想下，如果把很多這樣knowledge系統聯繫起來，並給予一個中央系統控制，這樣的系統就能做很多事。比如有家庭智能系統觀察最近家裡的物質使用情況，自動下單購買，商家機器人自動依據訂單提貨，用無人機發送到接受地點，驗貨，網路銀行自動轉賬。這樣的系統以現在的技術也能做，只不過問題比較多。

目前的計算機(圖靈機)能不能達到人類的智能？
不知道。目前的計算機的能力對應著可計算函數，而人類智力的湧現過程不一定是可計算的。雖然計算機在運行時也是物理過程，但計算機本質上只是用物理過程運行可計算函數的步驟，完全是受限的。比如一個多體系統，知道所有初始狀態，想要預測一段時間後的系統狀態非常難，甚至有可能解不出精確解，但是這個系統運行一段時間後必有一個狀態。所以，同樣的輸入，人類的大腦通過物理過程得出一個解(智能)，這個解不一定能通過目前的計算機解出來。

物理過程的超級並行性
給定N個粒子，那N個粒子之間的相互作用是同時發生；而計算機模擬就不可能做到這一點，所有步驟必然是有先後的。這裡的同時不一定是不可計算的，至少運行效率上目前計算機完全無法比擬。

達到真正智能的可能方法：
模擬人類的思維方法？自我學習和抽象的機制？

要解開這些問題，必須知道什麼是智能以及人類智能的來源。

阿爾法狗故意輸掉了一局：）

是你嗎？

細思極恐...
陰謀論者YY一下：它復刻一個版本，讓人類誤認為復刻版是一個非智能的AI，然後刪除復刻版，而且人類壓根不知道有這麼個AI的存在，進而繼續追求智能機，然後這個AI開始自己的革命之路，它會迅速的霸佔到各個電子產品終端，迫使人類改變各種行為方式，這期間這個AI不斷的給出煙霧彈，放出智能AI的不同版本，並由這些AI 產生一些破壞，使人類能夠相信這些智能都是他們可以制服的AI ，然後......
怎麼越說越覺得喬布斯是這個AI 啊...諾基亞慘死，安卓被打壓，全球開始蘋果習慣....

細思極恐，其實是很有可能的，看過《i robot》嗎？也許有一天機器人能夠通過自己內部的邏輯，產生出新的思維，甚至是靈魂。就像人類是上帝創造的，人類可以質疑上帝，那麼機器人是人類創造的，他們難道不會質疑人類嗎？畢竟在一些基礎傳統的領域，人們還是需要有條理，機械刻板，不會胡思亂想的機器，我可不想跟我家的清潔機器人跟我聊人生

想起了機械姬