谷歌創始人公開信：談AI缺點 但未提員工抗議AI武器風波【附全文】

來自專欄網易智能4 人贊了文章

本文系網易智能工作室（公眾號 smartman163）出品。聚焦AI，讀懂下一個大時代！

【網易智能訊 4月28日消息】據國外媒體報道，人工智慧是Alphabet高層管理人員近期反覆在發言中提及的主題。公司創始人謝爾蓋·布林(Sergey Brin)最新發布的這封公開信也不例外，但其在信中提及了人工智慧在安全、工作以及公平性方面可能存在的缺陷。

自2004年上市以來，該公司每年都會發布一份由布林或拉里·佩奇（Larry Page ）兩位聯合創始人撰寫的公開信。機器學習和人工智慧曾經被提到過。但今年布林詳細闡述了最近人工智慧發展的熱潮，他將其描述為「復興」。

布林寫道：「人工智慧領域的春天是我一生中計算領域最重要的發展，」而他的公司顯然已經讓全世界使用電腦的方式發生了巨大改變。

當谷歌於1998年成立時，布林寫道，誕生於20世紀40年代的機器學習技術，也就是人工神經網路還是「計算機科學中被遺忘的腳註」。但在今天，這種方法已經成為最近人工智慧興起和投資熱潮的驅動力。布林在公開信中信揭示了Alphabet應用神經網路的部分清單，其中包括用於自動駕駛汽車識別物體，翻譯語言，為YouTube視頻添加標題，診斷眼部疾病，甚至開發更好的神經網路等任務。

布林對計算能力的提升導致人工智慧成為可能表示贊同。他說在一些谷歌伺服器內部運行的定製人工智慧晶元要比谷歌第一台伺服器中的Pentium II晶元強大100萬倍。在一段數學式幽默中，他表示谷歌的量子計算晶元的處理速度總有一天會比現有計算機更快，快得無法想像。

正如你所料，布林希望Alphabet和其他人能夠找到人工智慧的更多用途。但他也承認，該技術可能帶來的不利因素。 「這種強大的工具還帶來了新的問題和責任，」他寫道。

?

?

布林說，人工智慧工具可能會改變工作的性質和數量，也可能被用來操縱群體，這可能會促使讀者聯想到Facebook最近的風波。布林寫道，對人工智慧安全的擔憂涵蓋了從「科幻風格的恐懼感到諸如自動駕駛汽車性能等新近問題」的多個方面。

對谷歌和科技行業來說，所有這些聽起來都很可能。同時，這些市場參與者也在全力以赴地從人工智慧領域攫取利潤。甚至一些谷歌員工也不確定公司是否走在正確的道路上——數千人簽署了一封抗議信，要求公司抵制與美國國防部簽訂的將機器學慣用於無人機視頻分析的合同。

?

布林沒有提到這個問題，而是以一種相對寬慰的說辭總結了關於人工智慧的缺點。他在信中提到，該公司在人工智慧組織Partnership on AI的合作關係，以及Alphabet在諸如如何使學習軟體不作弊等領域開展的相關研究，還有人工智慧決策如何更容易被人類理解。 「我期望機器學習技術能夠繼續迅速發展，而且Alphabet仍然是領導者——無論是在技術領域還是在道德領域，」布林寫道。

附公開信全文

「這是最好的時代，

這是最壞的時代，

這是智慧的時代，

這是愚蠢的時代，

這是信仰的時期，

這是懷疑的時期，

這是光明的季節，

這是黑暗的季節，

這是希望之春，

這是失望之冬。」

以狄更斯的《雙城記》作為開頭，完美地描述了我們現在所生活的這個變革中的時代。我們正處在一個充滿靈感和可能性的時代，機會來臨的同時也需要我們進行大量地思考並擔起責任，因為科技深入且不可逆轉地交織在我們的社會中。

?

計算爆炸

計算用於解決重要問題的能力和潛力達到了史無前例的高度。在過去的幾年裡，計算成本一直在不斷增加。我們在Google的第一年使用的奔騰二代處理器每秒執行大約1億個浮點運算。

我們今天使用的GPU可執行大約20萬億個浮點運算——這一點就可產生大約20萬個差異——而我們自己的TPU現在可以執行每秒180萬億（180萬億）浮點運算。

如果量子計算的承諾真的能實現，那麼即使是這些驚人的成果，也可能顯得微不足道。對於某一類特殊的問題，量子計算機可以以指數級的速度解決它們。例如，如果我們成功地使用了72量子計算機，那麼就需要數百萬台傳統計算機來模擬它的計算性能。

一個333量子的錯誤校正量子計算機將會不負眾望，提供10億個億倍的加速。

在這種計算熱潮中，有幾個因素在起作用。首先，當然是有關摩爾定律將停止使用這種一直不絕於耳的聲音，儘管一些傳統的測量方法，如晶體管的計數、密度和時鐘頻率，要停止使用的聲音已經減少。

第二個因素是更大的需求，這源於遊戲的高級圖形，令人驚訝的是，這還源語當今一些主要的加密貨幣中，比如以太坊，所使用的GPU-友好的工作證明演算法。

然而，第三個也是最重要的因素是機器學習的深刻變革，它在過去的十年中一直在不斷發展。這都是由這些日益強大的處理器實現的，同時，這也是進一步發展處理器的主要動力。

?

希望之春

?

於我而言，人工智慧的又一春是計算行業最重要的發展。當我們剛開始創業之時，神經網路在計算機科學中是一個被遺忘的分支，歷經了1980年代人工智慧寒冬之後遺留下來。然而今天，這一技術的廣泛應用已經促成了數量驚人的應用的誕生。

我們現在利用神經網路來：理解谷歌圖片中的圖片;使Waymo汽車能夠安全發現和識別物體;顯著提高我們硬體的聲音和相機質量;讓Google Home理解對話並能輸出對話;在谷歌翻譯中翻譯超過100種語言;搜尋YouTube上出現的使用10種語言的數十億個視頻;提高數據中心的效率;為郵件給出簡短回復;幫助醫生診斷疾病，如糖尿病視網膜病變;發現新的行星系統;創建更好的神經網路（AutoML）……還有更多的應用方式。

每個月，都有令人驚嘆的新應用和變革性的新技術。從這個意義上說，我們真的是處在技術復興的時代，這是一個激動人心的時代，我們可以看到涉及幾乎涵蓋現代社會各方面的應用。

然而，這些強大的工具也帶來了新的問題和責任。它們將如何影響不同行業的就業？我們如何理解這些工具在幕後做的事情？公平的衡量標準是什麼？它們如何操縱人們？它們安全嗎？

人們對所有這些問題都進行了嚴肅的思考和研究。最值得注意的是，安全問題涉及到各種各樣的問題，從對科幻小說中才能看見的感知能力的恐懼，到更近期的問題，比如驗證自動駕駛汽車的性能。

我們在人工智慧安全方面的一些值得注意的舉措列舉如下：

人工智慧安全討論需抓重點

DeepMind倫理與社會

結對：人類與AI研究項目

人工智慧的夥伴關係

我希望機器學習技術能夠繼續快速發展，讓Alphabet繼續成為一個領導者——無論是在技術層面還是在道德領域的發展上。

?

G代表谷歌

?

大約三年前，我們重組了公司，成立了母公司Alphabet，把谷歌作為我們的子公司（儘管比其他公司要大得多）。在我寫這封信的時候，谷歌已經進入了它的第20個年頭，並且繼續為越來越多的人提供信息和技術產品和服務。

現在有超過十億人使用谷歌搜索、YouTube、谷歌地圖、Google Play、Gmail、Android和Chrome瀏覽器。

這種技術的廣泛採用創造了新的機會，但隨著世界的社會結構日益緊密地交織在一起，這同時也帶來了新的責任。

基於國籍、文化背景和政治關係，對技術的期望可能會有很大的不同。因此，谷歌必須更加謹慎地發展其產品。

Alphabet的目標是讓新的技術應用能夠在更大程度上獨立發展。雖然現在宣布這一戰略取得成功還為時過早，但我還是持樂觀態度。就在幾個月前，谷歌旗下的生命科學公司Verily與法國製藥商賽諾菲(Sanofi)合資成立的新公司Onduo推出了他們的第一個產品，幫助糖尿病患者控制疾病。

Waymo已經開始在公共道路上運行全自動無人駕駛汽車，並已經跨越了500萬英里里程的測試。Alphabet 旗下的智慧城市子公司 Sidewalk Labs已經在多倫多開始了一個大型的開發項目，而Project Wing也在澳大利亞完成了首次無人機送貨。

我們公司內部也保持著很高的合作水平。我們的兩個機器學習中心——Google Brain和DeepMind——繼續將他們的專業知識帶到Alphabet和世界各地的項目中。而Nest公司現在正式加入谷歌，一起組建一個更加強大的硬體集團。

?

信仰的時代和懷疑的時代

?

科技公司過去對他們的創新所創造的機會一直都很理想化。而從歷史的角度來看，這些進步，包括互聯網和移動設備，創造了機會，極大地改善了數十億人的生活質量。

然而，在全球範圍內，關於這些科技的進步的影響和後果存在著非常合理和恰當的疑問。對這些問題進行討論是很重要且很必要的。

雖然我對將技術應用於去解決這個世界上最大的問題的潛力感到樂觀，但我們在這條道路上越走越遠的同時，我們必須承擔責任、心持關懷、保持謙卑。這也正是Alphabet的目標。（完）

來源：abc、Google

編譯：網易智能、網易科技

參與：Rosie、晗冰

推薦閱讀：