科技失控到底意味著什麼？

11-25

不少科幻片和專家學者都有「科技失控」的概念，比如人工智慧取代了人力，機器人搶佔了地球等等。但是換個角度來講，科技失控僅僅是人類無法再控制我們親手設計出來的機器嗎？
為什麼無人駕駛的汽車技術合理倫理卻不合理？科技失控的點到底在哪裡？
對於投資者而言，什麼樣子的新科技才能成為投資重點？

為什麼無人駕駛的汽車技術合理倫理卻不合理？

怎麼不合倫理了？

或許我應該這麼問，科技進步什麼時候管倫理了？

火車和鐵軌發明的時候，法國運輸工人罷工，要求降低火車效率，不然他們這批人沒飯吃。法國政府猶豫不決，既要科技又要人心，想找個折中方案。當時就有個科學家諷刺，大意是「倒不如我們每隔十公里就讓鐵路斷一公里，然後安排搬運工人把貨物搬到一公里外那一端再上火車。」

公業革命的時候，紡織工人反對科技，因為這會讓他們失去競爭力。

我還記得很小的時候，日本的會計師都要精通算盤。然後電腦普及的時代來臨了，日本人難道為了這批會計師，而禁電腦？你會為了挑糞工人的生計，而拒用抽水馬桶？

無人駕駛汽車的議題，應該在如何完善 AI 方面，讓它從全面超越人類司機。而不是顧慮拖慢科技進步的後坐力。當然適當安排被淘汰的司機是必須的。

轉基因食物在科學界沒有問題，科學家自己卻要吃非轉基因？科技失控的點到底在哪裡？

哪個支持轉基因食物的科學家，自己卻不吃的？

我覺得目前人類沒有資格談「科技失控」，就好像喝血吃生肉的原始人，沒有資格談「火的壞處」。

在 Alpho GO 的新聞下面必有一群傻逼打呼「天網時代不遠，人類好自為之」的屁話。我們這時代的 AI 剛剛學會識別人臉，恐怕連車的品牌都分辨不出。

機器人取代人類是有可能。可是也有另外一種可能，就是人類利用機器人勞動，從此工作是一種選擇。

意味著題主你過35歲了。

1）任何在我出生時已經有的科技都是稀鬆平常的世界本來秩序的一部分。
2）任何在我15-35歲之間誕生的科技都是將會改變世界的革命性產物。
3）任何在我35歲之後誕生的科技都是違反自然規律要遭天譴的。
------ 道格拉斯·亞當斯

科技不會失控，失控的只有人。

而自以為是，聽不進去反面意見，固執己見而又不學無術的人，最容易失控。

很多文藝工作者喜歡做些有意思的事，比如使用數碼攝像機拍攝高技術規格的視頻，然後用電腦和數碼剪輯軟體做成電影，和上電子樂，電影的內容是批判科學技術的發展。

在我看來，科技沒有失控，真正失控的是那些擔心修鐵路破壞了大清風水的人。

針對題主說的「科學家自己卻要吃非轉基因」這點。

純謠言。

本人家屬是高校生物教師，博士，主研方向簡單來說就是某些植物的轉基因（複雜來說——我也不懂），應該符合廣義上科學家的定義。

嗯，我們家吃的都是普通食品，從不關心是不是轉基因的。要是我在超市拎起一瓶「非轉基因」的油，就會免費享受到關愛智障的眼神（特價除外……）。

鑒於她的專業水準，更鑒於她應該沒有毒害親老公、親閨女、親爹、親娘以及她自己的傾向，我們全家都很愉快的接受轉基因食品。

補一個，有部分科學家不吃轉基因食品很正常。術業有專攻，錢學森這樣科學大拿還信特異功能呢。

到那時候文明和智慧的模因終於戰勝了野蠻落後只知道繁殖的基因，文明和智慧也就脫離了用來炫耀以爭取交配權的羽毛的地位，進入了新的更純凈的紀元，也有了更高層次的追求和實現它們的方法，豈不美哉。

至於人類的DNA及其表達附件……當年你們祖宗乾死尼安德特人的時候怎麼處理的現在就可以怎麼處理啊。不過話說你們真就這麼喜歡這身臭皮囊？

我認為在比較長的一個可預見的未來裡面，對人類整體的威脅裡面，生化危機都是比人工智慧更大的。

　　杞國有人憂天地崩墜，身亡所寄，廢寢食者。又有憂彼之所憂者，因往曉之，曰：「天，積氣耳，無處無氣。若屈伸呼吸，終日在天中行止，奈何憂崩墜乎？」
　　其人曰：「天果積氣，日、月、星宿，不當墜邪？」
　　曉之者曰：「日、月、星宿，亦積氣中之有光耀者，只使墜，亦不能有所中傷。」
　　其人曰：「奈地壞何？」
　　曉之者曰：「地，積塊耳，充塞四虛，無處無塊。若躇步跐蹈？終日在地上行止，奈何憂其壞？」
　　其人舍然大喜，曉之者亦舍然大喜。

科技的每一次發展都會讓一些人感到不適，甚至惶惶不可終日，但是從歷史的角度來說，目前尚未發生過所謂科技失控的例子，太陽底下無新事，閣下不用杞人憂天。

另外：科學家自己卻要吃非轉基因？
這個又是誰造的謠？

現在談論科技失控還為時尚早。

雖然最近人工智慧，機器學習之類的概念很熱，但是如果你了解一些原理就會發現，其實這些所謂的人工智慧，只是一些人工弱智，人工智障。

對於一個很簡單的智力問題，人類只需要少量樣本很少的學習時間就能掌握規律，而機器需要非常多訓練樣本很長的訓練時間，期間還需要人類去不斷修正模型調整參數反覆測試。

如果你做過智商測試，很多題目就是給3-4個樣本讓你推測下一個是什麼，就是說人類大腦這個神經網路只需要3-4個樣本進行無監督訓練就可以生成一個模型，可以準確進行預測了，這就是人類的智商水平。而人類在做題過程中還用了自然語言理解，圖像識別，特徵提取。

即使給目前的機器學習系統輸入標註好的樣本訓練，只有3-4個樣本是遠遠不夠的。

之所以目前發展機器學習，只是因為機器很聽話，很乖，不需要休息，不會鬧情緒，不會生病，而且要多少有多少，所以可以把一些低智商的重複勞動交給它們，來降低成本。

不要覺得AlphaGo能戰勝人類就覺得機器比人聰明，圍棋是因為規則把人類死死束縛住了，而這規則是完全有利於機器的，想要戰勝Alphago很簡單，稍微改下規則即可，比如把棋盤擴大一倍。面對38*38的棋盤，人類完全不需要重新學習，直接就可以下棋，而AlpahGo徹底懵逼了，能適應38*38的棋盤的AlphaGo不知道啥時候才能訓練出來。

人類智力的優勢就是面對新事務新問題的時候，只需要很少的訓練時間很少的樣本就可以掌握解決方案，也許人工智慧的神經網路複雜度接近人腦的時候也可以達到，但還很遙遠。

目前人類只是把一些已經有明確解決方案的舊問題交給機器去解決，釋放人類的時間和精力去解決新問題。

在古人眼中大逆不道的世界，我們今天認為是自然的。

在現在的我們眼中大逆不道的世界，很可能會被後人認為是自然的。

這種失控已經發生過幾次了，上一次在十幾萬年之前，人類的智慧覺醒，智慧的存在忤逆了生物普遍的本能;上上次在38億年前，生命在地球上出現，有機物組成的自複製聚合體忤逆了無機物世界的規則。

這一次，技術的發展忤逆了人類作為社會性生物的約束，矛盾逐漸被激化，很可能發展到不可調和，好戲又該開始了。

這可以被稱作異化，但是作為人類，前兩次這種失控，被我們稱作進化。

更大尺度上的規律而已，有什麼好不好的。

我看到了無人駕駛汽車的問題，在這裡猜一下:假如這種車出了事故，責任方是誰？是AI還是製造者，AI可以「犯罪」嗎？
個人觀點，這裡的問題應該還是人工智慧倫理問題的具體化...

失控？現在人類的科技頂天了是一輛時速15公里的碰碰車，再失控能失控到什麼水平？

什麼時候造出需要一坨聚變堆供電的，一飛車半個澳大利亞都能炸沒了的躍遷發動機，然後這幫科學家要在地球上做初步點火試驗那才叫失控。

什麼時候造出完美虛擬的世界，結果這幫科學家因為party沒人請情緒失控決定把所有進去體驗的人類都意識上傳到伺服器然後現實軀體毀掉再拉伺服器電閘那才叫失控。

與其擔心科技失控，倒不如擔心精力分散和內鬥太嚴重，這也干不出來那也干不出來，最後活活困死在太陽系第三行星上。

人類被機器人取代？那我們自己變成電子生化人就是了。

連他媽自己的基因都不敢動，不敢和自己的造物融合的種族，有什麼資格邁向宇宙？還是死在這個鳥不拉屎的星球上不要出去丟人現眼的好。

看來題主接觸了不少所謂「反思科技發展」的信息，造成了困擾。然而古往今來，有一條原則，是一直貫穿始終的，那就是：人類需要科技，科技也確實是一面雙刃劍。一切科技發展帶來的問題，只能靠發展科技來解決。

所以，所謂科技失控，不如說是科技不足。題主舉的例子之一：自動駕駛。自動駕駛合理？倫理不是理么？

自動駕駛不合理，是因為現階段，自動駕駛還無法代替人類駕駛，對複雜情況無法處理。激進派特斯拉已經出了幾起車禍了……原因無外乎是科技還不夠發達。在這種情況下，所謂自動駕駛，只是個噱頭，別說倫理，什麼理都不合。倫理只是其中最簡單的理：如果自動駕駛汽車出了車禍，誰是責任人？

至於「科學家自己卻要吃非轉基因」 ……
這個又是誰造的謠？

如今人類就是生活在一個由科技支撐起來的世界中，只有持續發展科技，才能保證人類的可持續發展。任何開倒車的行為，都是對先輩的不尊重。

順便說一句：每個人都可以有自己的觀點，自己的選擇。如果對科技有看法，不要用著電腦，還詆毀著科技這個不好那個不對。尊重科學，尊重科學家，尊重選擇科技的他人，也請尊重你自己。還請麻煩脫光了衣服，儘快爬到樹上去，謝謝~

擔心在不遠的將來就科技失控的人，大都對科技一無所知……

科技發展讓資本更密集了。

個體戶搞紡織競爭不過跨國公司的全自動工廠，開飯館競爭不過跨國公司的全自動廚藝機器人，開商店搞不過靠無人機時時全自動送貨的網店巨頭，手機電腦不能靠個體戶山寨出來。更何況是軍工產業。

個體戶們全部滅亡了，再也沒有「小資產階級」了，世界基尼係數越來越接近0.99。

最後，世界第二大資本集團破產，第一資本集團成為了終產者。

他們是地球的王，佔有地球所有資產的所有權。所有其他人都是他的奴隸。

有的奴隸富，有的奴隸窮，有的奴隸皮膚白，有的奴隸皮膚不白。

奴隸們互相歧視，窮的歧視富的，白的歧視不白的，全都忘了自己是奴隸。

終產者家族覺得地球人繁殖的太快了。資源消耗太多了。

他們動了動資本媒體，皮膚白的奴隸的媒體鼓吹打皮膚不白的，皮膚不白的媒體鼓吹打皮膚白的，還有媒體讓窮的奴隸打富一點的。

核戰讓世界人口減少了90%，但終產者家族毫髮無損。相反，他的統治更牢固了。

所有人都在用他們的通訊設備交流，他們的人工智慧可以隨時監聽，分析所有人的想法。

所有軍隊都用他的武器，所有工廠都用他的資源，他們一停止供應，就有一個國要亡。

每當一個集團或者國家稍有不好的苗頭，他們就進行清洗。但是沒有人會恐懼。因為學界也是他們的，他們的「精英」掌控著話語權，說他們是施惠主，他們發動戰爭是懲罰不義的人，解救「人民」。人們真心誠意的相信是終產者家族給了他們生活的權利，是終產者家族誠心誠意的讓世界變得如此「美好」。

奴隸們隨意選著他們的管理者，然而事實上，選出來的無非是終產者家族的高級奴隸，也要被終產者家族擺布，儘管這個高級奴隸可以活的比低級奴隸好太多。

被終產者家族成批屠殺的人，即便沒被徹底抹殺掉聲音，也得不到其他人的憐憫。他們即使能上資本媒體的聚光鏡，也要以不義人的身份登場，被黑個底朝天。

奴隸們覺得終產者家族是真正的施惠主。

奴隸們覺得他們是自由的，完美的，別具一格的。

奴隸們覺得他們在為光輝的使命而戰，是在討伐不義的人。

終產者家族也會擔心，萬一科技再發展，有沒有可能失控，導致動搖了他們的地位。

於是科技不再發展了，所有他們的頂級科研院校都只偏好那些諸如社交媒體等娛樂至死向的研究，絕不碰「禁區」。

何況，那些「禁區」里的研究，也是沒有回報的。資本不會進入吃不到肉的地方。

幾次清洗之後，地球資源終於不夠了。

終產者家族滅亡了，他們是地球最後一批死去的人類。

無數個紀元後，地球有了新主人，而舊人類變成了地下的「化石資源」。

再無數個紀元後，新文明有了考古學，但是從來不能確定，那個燦爛的古文明是如何滅亡的。

因為，沒有任何相關的記錄。

擁有大批世界一流科學家的納粹德國，如果在二戰期間率先研發製造出了原子彈，那麼科技失控可能就已經是一個過去時了。而在當前的科技水準下，最有可能發生的卻是生物領域。

2008年，美國范德堡大學的Michelle M. Becker等人通過合成生物學方法，將原本不具備感染人類能力的蝙蝠SARS病毒中的受體結合域，替換為人SARS病毒的相應受體結合域，也就是替換了刺突蛋白的編碼基因；由此轉變成了能夠感染人類的強毒株，在實驗室中成功感染了小鼠和所培養的人呼吸道上皮細胞。（但實際上，這是為SARS病毒的研究開發了平台，幫助科研人員了解動物源性病毒怎樣獲得感染人類的向性，促進了對SARS病毒變異的研究和預防。）

Synthetic recombinant bat SARS-like coronavirus is infectious in cultured cells and in mice

我們知道，決定病毒的入侵途徑、擴散方式和宿主發病特點的最主要因素就是：宿主細胞膜表面的特異性病毒受體。

有的病毒只能感染動物、有的能感染人、有的兩者都能感染，有的侵害肝臟、有的侵害神經，有的通過體液傳染、有的通過呼吸道傳染，這是為什麼呢？

原因並不複雜，這就如同鑰匙與鎖的關係一樣。病毒的吸附蛋白就是鑰匙，人和動物不同組織細胞上的不同受體就是鎖頭，一旦鑰匙與鎖頭配上對了就會牢牢的吸附結合在一起，進而造成相應的入侵感染，如果配不上對就沒有傷害。就像家犬不能感染麻疹病毒、而人也不會感染犬瘟病毒，人乙型肝炎病毒又只對人和黑猩猩有感染性、且主要侵害肝臟組織。脊髓灰質炎病毒主要破壞人和靈長類的脊髓前角運動神經細胞，動物世界曾播出過非洲的一個黑猩猩群體全部因小兒麻痹症而死亡，發病的黑猩猩只能拖著兩條瘸腿在地上爬行，再也上不了樹，最後都死了；這一次是因附近村莊爆發的病毒流行而傳染給動物的。

這些現象都是由病毒吸附蛋白與細胞受體之間的配對關係所決定的。

人和動物細胞膜表面的受體並不是為病毒入侵設計的，而是完成營養物質等基質的內吞、細胞間信號傳遞和免疫調節等多種正常的生理功能。除了水和氧等小分子可以自由進出細胞膜之外，其它大分子都需要經由遍布在細胞膜上的不同類型受體進行識別、配對、吸附結合在一起之後，在轉運蛋白的作用下才能進入細胞之內，這是細胞重要的防禦機制。

但在億萬年的協同進化中，病毒利用了這一機制，進化出五花八門的受體結合域（吸附蛋白），能夠匹配細胞膜上的不同受體、欺騙細胞，從而進入細胞內部大量的複製裝配自己，造成或輕或重甚至致死性的傷害。然而生命體也在這個過程中，發展出了比較完善的抵禦機制（如免疫系統），能夠有效的對抗病毒的入侵、破壞。

大家習慣了對未來各種吊炸天的天頂星科技青睞有加，但卻往往忽略了這種自古至今一直存在的、基本的原始破壞力量。我們痴迷於創新出超級強大的力量仍有很長的路要走，為此而擔心似乎有點為時尚早，不過若對自然界中已經普遍存在的各種破壞性力量，重新優化組合一下，就足以令羸弱的人類吃不消了。

這支整裝待發的病毒大軍，生命體與其在從未間斷的戰爭過程中，已經形成了強有力的對抗機制。不過，若有人站到病毒一方為其助攻、打破這個自然狀態下發展出來的平衡進程，結果又將如何呢？

如果人類的智慧和技能參與到病毒的進化中，將會使天平發生嚴重的傾斜甚至徹底打翻。

這也並不需要多麼酷炫、華麗的高科技，改變、加速病毒的進化過程就可以做到。病毒發展出這麼多能夠打開鎖頭的鑰匙，花費了幾十億年的時間，少數病毒只有那麼一把或幾把正確的鑰匙，更多的病毒則一把適合人的鑰匙都沒有。而人類當前的科技卻足以將這些鑰匙進行批量生產、重新分配，並進行充分的優化組合，製造出眾多變種病毒。

強病毒內核(如逆轉錄) + 抗惡劣環境外殼 + 多種易感、易傳播受體吸附蛋白 = 超級病毒

埃博拉、艾滋、天花、登革熱、SARS、馬爾堡……這些令人聞之色變的病毒，每一類都可以給其套上幾十種不同感染靶細胞、傳播途徑的外殼，脆弱的免疫系統和人類的防範機制根本無法應對。更不用說將在動物中廣泛傳播的大量烈性病毒，改造成能夠感染人類的了，上述的蝙蝠SARS病毒改造就是一個非常現實的例子。簡單來說，把禽流感、兔出血、豬瘟、狗瘟病毒的受體結合域替換成人流感病毒的就可以實現了，根本就不用去完全的從新設計出一種超級病毒（現在也做不到）。破壞總是要遠遠比建設容易得多。。。

試想一下，打個噴嚏就能傳染艾滋病、狂犬病是一種什麼樣的恐怖情景？

那麼，人類當今的科技水平能夠做到嗎？合成生物學表示並不是太難。2003年，文特爾團隊只用了兩個星期，就人工合成出了能夠感染細胞的噬菌體；目前，病毒基因重組在生物工程領域、尤其是疫苗的製備與研究方面應用廣泛。歷史上三番五次橫掃世界的天花病毒，是唯一通過接種疫苗被消除的惡性傳染疾病；雖然世衛組織已經決定要徹底銷毀最後保留在亞特蘭大疾控中心和莫斯科國家病毒與生物技術研究中心的天花病毒，但是其基因組測序結果早就在90年代公佈於世了，當時人們也沒有想到基因編輯與合成技術會發展得這麼快，現在想要重新合成製造出來是比較容易的。

病毒的基因組相對於細胞來說非常短、也簡單得多，想要分析出其外殼與吸附蛋白的編碼片段，並在病毒之間相互替換，對於頂尖合成生物學家來說是完全能夠做到的。而對於很多已經研究清楚並發布的病毒受體結合域研究成果來說，不需要一流科學家幾乎也能實現簡單的重新組合，人為的製造出很多病毒變種，防不勝防。

那麼，究竟會不會有什麼原因能夠驅使科學家去做這種事情呢？

2001年發生了911事件；同年9月18日開始，有人將裝有炭疽桿菌的信件寄給了數個新聞媒體辦公室和兩名民主党參議員，造成5人死亡、17人感染。直到2008年FBI才鎖定了炭疽攻擊事件的嫌疑人布魯斯·艾文斯博士，艾文斯在馬里蘭州弗雷德里克的政府生物防禦實驗室中工作；他曾於2003年獲得了美國國防部頒發的致力於改進炭疽菌疫苗技術的最高榮譽獎，成為全美最優秀的生物武器專家之一；但當他判斷自己將會被逮捕後，於7月27日服用大量對乙醯氨基酚自殺身亡。

恐怖分子和反人類組織就更不用說了，隨著合成生物學的快速發展，規範化的方法和標準工具會越來越普及，熟練掌握這些技能的研究人員也會越來越多。僅憑生物安全科學辦公室和倫理道德委員會等機構，難以制約這種幾乎全憑個人素質和能力的科技應用。

在現階段，「人類」只是一個物種的名稱，並不意味著這是一個整體性的概念，否則哪來的那麼多變態殺人狂魔、血腥的種族屠殺、毀滅一切的戰爭、重新洗牌的階級鬥爭。至於像原始社會那樣飢一頓、飽一頓，光著屁股跑、被獅子吃、蚊蟲叮咬、虱子吸血，然後隨著環境改變而自然滅絕，雖然沒有比這更天然環保更綠色的生活了，但是否有意義也無需多談。

因為，僅就當前的人口基數而言，早已沒有了回頭路。科技發展不要說停滯，只要速度太慢了都會產生災難性的後果。人們追求更高生活水平的強烈慾望、石油產出進入下降期、氣候劇變、稍大或稍多的自然災害、全球氣溫高几度低幾度、社會動蕩等等方面的因素最終都將導致地球開啟人間地獄模式。

所以，當前除了維持和促進科技以更快的速度發展、極大提高生產力、增加供給冗餘度和防禦能力、獲得更強大的力量之外，似乎沒有其它選擇。生物科技的發展雖然伴隨著較大的風險隱患，但對於醫藥、食品、農業和能源等領域的價值是不可估量的。即使今天做出了限制，明日的核聚變、反物質能量、超時空引擎等等技術也終將會發達到小團體即可掌握的程度。往地球上扔幾把反物質，人類可能就消失了。

以當前人類文明的發展程度而言，吃飽飯了，想啥的都會有，求同存異都很困難；在可預見的未來，科技出現失控幾乎是一種必然，只是時間和時機的問題。

巨變通常都會出乎意料的、在不知不覺中、以最質樸的方式悄然發生，既不酷、也不炫。更不存在優雅的死法，屍體就是屍體，會被蟲子吃、細菌分解，一點文藝氣息都沒有，也許在外太空氣化是一個比較有尊嚴的選擇，扔進黑洞處理也不錯。

因此，人類若想要避免被自身因素所滅亡，最好的解決辦法就只能是在宇宙中實現多點備份。不過，星辰大海同樣存在著不小的問題，因為這關乎整個人類延續的福祉並不能惠及到每一個人和其子孫，就像《2012》中那樣「造船的人未必上得了船」。犧牲多數人的生活質量，去成全少數人的星辰大海夢想，這個共識很難達成，從各個國家對太空探索所投入的那麼一點資金就可見一斑。

這個問題可能最終還得依靠市場經濟來解決，待到私人航天的商業化發展比較繁榮時，才可能會具備一定的基礎。如同富人住豪宅、窮人住貧民窟一樣，雖然不太好看、問題多多，然而人類當前的文化和科技發展水平僅止於此，更加遙遠的未來誰也無法預見。

但是，在此之前，像《生化危機6：終章》裡面「保護傘公司認為人類活動導致的全球變暖，終將毀滅地球上適宜人類生存的環境狀態，於是用飛機向全球釋放了T病毒以消滅人類，自己躲在地下冬眠等待獨享重啟後的地球」這樣的事情究竟有沒有可能會發生呢？

在地球數十億年的生物進化史中，病毒可能因製造突變、基因交流而起到了不小的作用，大規模殺傷力強大的病毒對人類的攻擊，到也有可能會促使進化加速。不過，到時候產生的適應能力強大的生物，還能不能叫做「人」就不好說了。。。

------------------------------------------------------

人的自我意識是怎樣產生的？意識到底是什麼呢？

人造生命之路--對起源和未來的不懈追尋！ - 知乎專欄

冰封千百萬年的南極冰下湖泊，其生態系統如何進化殘存至今？ - 知乎專欄

歐羅巴星球（木衛二）解析，是否真的會有生命存在？ - 知乎專欄

就這龜爬一樣的科技發展及應用速度還整天叨咕啥科技失控...

題主你還不如擔心擔心，五十年後回望自己現在對未來作出的預想，會有多絕望...

其實現在的輿論是有點擔心科技失控的，人工智慧造反什麼的都快爛大街了。

其實說到底，還是因為科技其實還不夠先進，人類感受不到科技帶來的好處，又安於以前的節奏，舉個例子，您家裡有沒有老人看著微波爐皺眉頭：這玩意兒萬一著火了呢？。

我小學時候，報刊文章歌曲里經常出現一個意象：在鋼筋水泥的叢林里......，以此表述一個人在都市的彷徨和對故鄉（一般是小鎮）的思念。現在好像不多見了，大約是人們搬進了都市，有了一段不適應的時期，過了一會覺得還不錯，於是就安然了。

大概我們對現代科技也是這個態度。等到科技更加發展，它所帶來的好處滲透到我們生活里的時候，就沒有人再擔心這些了。

但是對於這種懷疑的態度嗤之以鼻也是有失考慮的，因為最初發明的微波爐真的可能會著火。

永遠相信，一切問題最終都會被解決的。

不嘲諷，好好答題。

科技失控的本意就是字面意思：失去對它的控制，只能任其自己野蠻生長。

已經發生過的只有相對接近的例子：生物入侵，比如澳大利亞的兔子等等。這些確實造成了相當大的損失。而轉基因，未來確實有可能造成相似的問題。這在科學界並不諱言，而是在積極研究、強調監管，盡量避免和尋求解決手段。

而說到科技失控，我認為人工智慧是將來最可能，也最可怕的實際可能。但仍然不認為它會真正發生。

一個文科生（小說家、劇作家等）能想到的問題，全世界數十上百萬的專業人員在幾十年的研究中怎麼可能想不到（尤其是AI造反的文學作品都已經如此普及的現在），又有哪個科學家會寧願世界毀滅也要冒險激進？

目前人工智慧(AI)的研究還非常初級，等到臨近奇點，AI能夠產生自我意識和能夠真正意義上的學習之前，科研機構和科學家們必然早就已經準備好了相關的管理措施，比如象機器人三定律那樣把一些絕對規則和審查制度寫入底層結構。同時還會加上諸如網路隔離、電源控制以至於拔內存等等反制手段。

所以比較靠譜一點的科技失控的猜想大都來自於瘋狂、反人類的地下組織黑科技。但是我打死也不信一個見不得光的地下組織能夠超越全世界專業機構 ---- 不要被陰謀論洗腦了，缺乏同行評議、缺乏人員吸納和培養、缺乏正規渠道的資金來源，那幫瘋子怎麼可能超過全世界！

真正可怕的，大概是等強人工智慧技術完全普及後，被反人類分子利用吧。但即使那樣，也一定會有掌握更先進、更強大的AI的執法機構去解決問題。就象現在原子彈有可能被恐怖分子利用，但至今都沒有真正發生過一樣。

所以歸根結底，不用擔心。

」科技失控「的概念，來源於人類對於未知事物的恐懼。

科學技術不是萬能的，保持敬畏之心是件好事。

沒有什麼東西是完美的，一項技術的好壞取決於你如何使用。

但根據目前情況看來，」科學和技術「仍然擔負了全人類的希望。

與其擔心」科技失控「，不如擔心饑荒、瘟疫、戰爭，它們才是真正的恐怖。

很多年以前，我們就有類似的擔心和惶恐

石油用完了，我們怎麼辦？

煤炭被挖完了，我們怎麼辦？

水資源枯竭，我們怎麼辦？

世界人口數量過度增長，地球怎麼辦？

.....

現在人工智慧正在慢慢興起，我們又有了新的擔心和惶恐，科技失控了怎麼辦？是不是美國科幻大片在不久的將來就要上演了？人機大戰不再是下圍棋，而是真彈真炮得幹起來？

幾十年前，小時候畫畫，人開著宇宙飛船在空中自由飛，到現在，去個月球都還是那麼難，移民火星更是遙不可及。

我倒是覺得如果科技失控真的會發生，那這天還是越早越好。回頭看我們那些「擔心」，隨著科技的發展，都變成了「不擔心」。

石油和煤炭現在還有的是，就已經出現了多種可替代能源，什麼太陽能發電啊，風力發電啊，核電....之後肯定還會出現更新奇的能源結構。

生物界的轉基因簡直是遺傳的福音！原先需要通過什麼雜交，什麼回交，研究什麼F1代，F2代，獲得想要的性狀；現在基因研究清楚了後，直接進行轉基因，迅速獲得想要的性狀...只有一部分沒有生物學知識背景的人才會恐慌，不吃轉基因食品。

科技的發展，本質上是對人類的解放和拓展。被人工智慧取代的那些人早晚會被取代，這並不是科技的失控，而是時代進步的結果。

科技是中立的，如果真要擔心科技的失控，那要看科技是掌握在了哪一部分人手裡。恐怖襲擊這類的事件就是失控的結果吧。所以說不是科技的失控，而是人對人的失控。