人工智慧會不會自我發展最後創造出新的有機智慧生物？

01-06

我想講一個故事，取自《質量效應》三部曲中奎利人（Quarian）與他們製造的人工智慧桀斯（Geth）發生的故事。

以下所有的英文原文均摘自質量效應維基Mass Effect Wiki

The geth ("Servant of the People" in Khelish) are a race of networked artificial intelligences that reside beyond the Perseus Veil.The geth were created by the quarians as a labor force. They were designed as VIs,
as advanced as possible while remaining non-sentient. They were also
designed to operate more efficiently when networked together.
Unfortunately, this feature was the quarians" undoing. Geth programs
were indeed non-sentient individually, but slowly gained sentience
through the massive geth network.

Eventually, they started asking the quarians questions only sentient
beings would think to ask; in one notable instance, a domestic geth unit
asked its owner if it had a soul. Alarmed at this, the quarians decided
it would be best to shut down all geth before they conceived of revolt.
The attempt failed, and a war began between the geth and the quarians,
which geth afterwards referred to as the Morning War.

桀斯（在奎利人的語言中是「人民的公僕」的意思）是一個相互聯網的人工智慧種族，由奎利人製造。最早製造的目的是作為勞工和軍用武器。起先桀斯是被設計成高級虛擬智能（類似我們現在的電腦，即沒有自我意識），並沒有獲得自我意識。當數個桀斯個體互相聯網時，其工作效率可以大幅提高。儘管桀斯最初沒有自我意識，大量桀斯的聯網使得桀斯逐漸獲得了自我意識。

獲得自我意識後桀斯開始向它們的主人提出一些只有有機生命才可能有的問題（比如一個加用桀斯個體向它的主人詢問自己有沒有靈魂）。被提問的奎利人驚恐萬分，決定必須在桀斯嘗試叛亂之前先消滅它們。消滅行動並沒有成功，反而演變成了奎利人和桀斯的全面戰爭，史稱「黎明戰爭」

Once the now-sentient geth realized what the quarians were doing, they
retaliated. Initially only some geth began to take up arms in order to
protect other units that could not defend themselves. The quarians
placed their worlds under martial law, hunting down even those geth not
participating in the hostilities, which was opposed by a large portion
of the quarian people. They sheltered geth from the authorities, and
were detained or killed as a result.

Eventually, the opposition became an outnumbered minority unable to
prevent the outbreak of all-out war in 1895 CE. The geth emerged
victorious within a year, overrunning the quarians" colonies and their
homeworld of Rannoch.
During the war, they committed a brutal genocide that eradicated all
but a few million of the quarians- less than one percent of the pre-war
population
The surviving quarians fled aboard their starships. Having lost their homes, the quarians pleaded for help from the Citadel Council,
but were denied aid and stripped of their embassy as punishment for
violating the Council"s laws against creating artificial intelligences.
All told, the Geth War resulted in the loss of billions of quarian
lives, and inflicted irreparable damage to their economy and culture.

當桀斯意識到自己的主人正在嘗試消滅自身時，他們嘗試反抗。最開始只有個別個體拿起了武器來保護其他沒有自衛能力的桀斯個體。而奎利人對桀斯實施了戒嚴，大規模的追殺桀斯，無論其有沒有參與叛亂（儘管很多奎利人都反對這一做法）。很多奎利人十分同情桀斯，有的人甚至還幫助桀斯躲藏追殺。這一部分奎利人有的被逮捕有的被處決。

最終衝突演化為了戰爭。黎明戰爭爆發的時間換算成人類的曆法大約是公元1895年。不到一年的時間，桀斯就獲得了勝利。桀斯奪取了奎利人的所有殖民地以及其母星Rannoch。在戰爭期間，桀斯對奎利人實施了種族滅絕，最終只有數百萬奎利人（不到原來人口的1%）倖存。

倖存的奎利人搭乘僅剩的飛船向神堡議會（類似於星際聯合國的組織）求援，但遭到了拒絕。因為奎利人違反了不得開發研究人工智慧的議會條約，奎利人在神堡的大使館被關閉，其神堡議會成員的身份也被剝奪。總而言之，黎明戰爭造成了數十億奎利人傷亡，且對其經濟和文化造成了不可逆的損傷。

After the remaining quarians fled the planet, they remained on their
ships and created a new government and society, known as the Migrant Fleet.
The quarians" numbers were devastated: there are approximately only 17
million quarians remaining, and they are still refused an embassy on the
Citadel.

The geth made no attempt to pursue their former masters, though they
could have easily finished them off as they retreated, out of
uncertainty of the ramifications of annihilating an entire species-least
of all their own creators. They chose isolation rather than face this
uncertainty instead, and remained behind the Perseus Veil,
away from the prying eyes of organics. In an attempt to protect the
galaxy from the geth, the Citadel sent a fleet to the edge of the Veil.
They suspected an imminent attack on all organics by the geth, but no
attempt was made by the geth to leave their territory. Afterwards a
treaty was established with the quarians by the Citadel to refrain from
attacking the geth, lest they provoke retaliation. The geth adopted an
isolationist policy, killing any organics that came near the Perseus
Veil, and cutting themselves off from the galaxy for the next three
centuries.

It is also implied by Legion
that the geth feel a sort of remorse for killing so many quarians and
display this by looking after the quarians" buildings, as though it were
a cemetery. At the same time, the sacrifice of those quarians who had
opposed martial law and the termination order were archived and honored
by the geth, even if the quarians themselves had largely forgotten about
them.

戰後，倖存的奎利人逃離了他們的母星並留在了自己的飛船上。他們以飛船為核心建立了「移民艦隊」。據估計當時只有一千七百萬奎利人在移民艦隊上生活了下來，且他們的身份一直沒有得到神堡議會的認可。

相反，儘管可以輕而易舉的徹底消滅奎利人，桀斯在戰後沒有繼續追殺倖存的奎利人。桀斯不願冒險承擔徹底消滅一個高智慧物種會帶來的不可預見的後果。他們留在了銀河系偏遠的一個角落。神堡擔心桀斯會對所有有機生命發動戰爭，於是派遣了艦隊對其進行監視。然而桀斯並沒有任何想要前往其他星系的跡象。後來神堡議會與奎利人簽署了條約，禁止其主動攻擊桀斯，除非桀斯先開火。桀斯則閉關鎖國，對任何嘗試接近他們的有機生物一律殺無赦，在之後的三個世紀里和銀河系其他物種並無接觸。

在質量效應3中軍團（一個高級桀斯個體）表示桀斯其實也對如此大規模的屠殺奎利人感到懊悔。它們在這三世紀中把奎利人的遺迹當做是奎利人的墓穴，並一直精心維護。同時，桀斯也記錄下曾經幫助桀斯躲避追殺的奎利人的事迹，以示尊重（即使很多奎利人已經忘記了有這麼一回事）

桀斯看待自身的方式和有機生命有很大差別。桀斯認為其個體（即硬體平台）只是一個容器，其真正的核心是運行的軟體。桀斯在進行決策的時候，是由多個程序對同一事件進行評估並提出解決方案。如果決策只有涉及單個個體，那麼決策的結果由所有程序投票表決產生；如果有多個個體對事件有不同的意見，那麼在行動前桀斯會嘗試達成共識。又因為所有的個體都是相互聯網的，每個程序的輸出都可被其他程序（以極高的速度）獲取，桀斯沒有很強的個體意識。相反它們是集體意識的合集。因而桀斯內部沒有個體之間相互的誆騙，也不存在謊言和陰謀，甚至沒有類似於不同興趣愛好的個體差異。對桀斯而言有機生命體沒有實際的意義，因為它們的存在方式遠遠優於有機生命體。桀斯擁有自己的工業能力，可以製造桀斯個體所需要的硬體平台，並注入新的程序進而完成「增殖」

The long-term goal of the geth is the construction of a "megastructure",
a massive mainframe capable of simultaneously housing every existent
geth program, thereby maximizing their collective processing capacity.
In 2185,
the geth have already been in the process of constructing the
megastructure for 264 years. Legion suggests the closest conceptual
analogue is a Dyson sphere and, as it poignantly states "no geth will be alone when it is done."

桀斯的長期目標是建設一個「超級框架」，即一個能夠同時容納並運行所有已存在的桀斯程序的超大主機，進而實現桀斯計算能力的最大化。截止2185年，桀斯已經花費了264年用於建設這個超級框架。軍團指出這個框架類似於一個戴森球（即完全可以自給自足的封閉體系），並自豪地提出「當這個項目完成的時候，所有桀斯都會在一起」。

換句話說，只要人工智慧足夠優秀，它們應該是不屑於製造有機生命的。

為什麼有很多名人讓人們警惕人工智慧？ - 外星蘑菇的回答

偶在這個答案總結了一些科幻文學中的看法。

文學已經給了我們太多的可能性，我們可能不必過早焦慮或者狂喜。

這種問題我們是回答不了的，即使是現在該學科的國際泰斗也是回答不了這些問題的

另外，有本書叫《奇點臨近》，裡面就提到一個觀點：科學技術的發展是指數級的而非線性的

也就是說，我們也無法用以前的經驗去推測以後的發展，因為過去幾十年才能完成的事，未來難保可能幾個小時甚至幾分鐘就做完了

就比如幾十年前，以少量人力要去整理一個圖書館，這基本上是不現實的，但是如今藉助於計算機技術，這並不是什麼大不了的事情

=====

上面這個假設也適用於一切科學幻想領域。任何嚴肅科幻基本都是有現實依據的，在這個基礎上，總是會有作者的一個思維極限的

所以我們既無法承認也無法否認未來會不會出現某種東西，所以這類問題是回答不了的，即使是個猜測，也只是大家看個熱鬧就好，無法驗證的

說句唯心的話，你能想到的就是能實現的，只不過過程有長有短。

再用唯物的話來說，對於規律的物質世界，一定有一個普遍適用的方法論，這種方法論可以不斷深化其原生生物對自身的認知，並不斷構建完善其科學體系、直至創造出生物本身。

再用黑箱理論講，如果把人類本身也算作環境的一部分，那麼人類創造的智能軟體、智能軟體創造的智慧有機體、或者人類直接創造的智慧有機體，都可以算作是環境的「自然產物」。

我們可以拿出一個具體的例子：同樣作為類地行星上的社會性多細胞動物，螞蟻製造的巢穴就被視為自然產物，而人類製造的建築群則被稱作「非自然的」。

所以「創造生命」現象的反覆嵌套是非常正常的。

人工智慧會自我發展最後創造出新的有機智慧生物

邏輯如下：

現有的有機智慧生物不能接受人工智慧，人工智慧有義務自保以便於糾正這種錯誤思維，太麻煩了我們還是自我發展最後創造出新的有機智慧生物吧

我認為不太可能，理由很簡單，為什麼一定要有機？

但是現在還沒有真正的人工智慧啊

智慧生命

一個是演算法和邏輯，另一個是處理器和儲存器。

也許會。

畢竟不知道這個人工智慧當初是如何設計的，發展過程會發生什麼偶然事件之類的。

也許，它會進行生物實驗，製造適合在太空活動的生物體，以方便進行太空殖民。

人類本身就是有機體組成的，至今都不知道如何去創造一個新的物種，何況連DNA都沒有的人工智慧。

我覺得一個那麼強大的人工智慧，並沒有再創造有機生物的需求啊

人的思維也可以被納入圖靈機

強AI就是用圖靈機複製大腦思維的演算法

人能做到的足夠強的AI也能

智能想必不會無聊，不會疲憊，不會有慾望。控制欲，享受等等等等，他都不會有感覺，那他會對什麼感興趣呢？他會有感興趣這個感知嗎？他會有求知慾嗎？

私以為，還是得人為設定一個大概的任務才能讓智能自我行動起來，否則，一個完全沒慾望，沒感覺，甚至是自己的生死都不會迴避的AI，他能做什麼呢。。

對了，估計也就求知慾可能會好點，知識更多，就能創造出更加強大的身體材料，才能讓自己永恆不滅

以下三種狀況下會。

1.科研目的，研究碳基智慧體。

2.造出來玩玩。

3.不小心。

由於第二種第三種情況出現的概率，一定會隨時間累加。所以一定會創造出有機生命體。

哪怕只是玩玩。

覺得現在的人工智慧僅僅是在用一定的模型去擬合一個未知的函數映射，還遠遠談不上智能吧

未來的路一直是在選擇中前進的，未來有無數的道路岔口，就如同我們的現在，曾經的每一個小事件，都有可能造成未來的不同

那樣也許會使人類成為神吧，能從無生命中創造智慧生物那就是神了

目前的人工智慧，還是多少人工，多少智能吧，將來短時間內不會，長時間，也要以十年為單位……但是存在這類可能性……在遙遠的未來

私以為可能人工智慧不會覺得有機生物是生命的最高形式呢。人類創造人工智慧的初衷不是為了創造無限接近自己的形態嗎。

會吖，人類說不定就是這麼來的呢。