能否使用區塊鏈的算力來解決深度學習訓練？

01-11

首先要全球幾百萬用戶統一使用同一個dataset，同一個model；

然後大家拚命去訓練若干個epoch，訓練出accuracy更高的那個model；

然後花費大家很多的時間，把訓練好的model當作proof of work傳到幾百萬個人電腦上；

然後幾百萬個人再用非常多的時間來驗證一下；

最後幾百萬個人再一致同意你的model訓練得更準確一點；

然後呢？

前面別人訓練的結果就作廢！驚不驚喜，意不意外？

如果所有人的任何accuracy的model都可以算作proof of work，那我隨機生成10萬組參數，就等於有了10萬個貨幣，空手套白狼，你覺得這難道很公平？

所以其實問題很簡單，挖礦本質是讓大家去競爭去搞到一份proof of work，先算先得，而不是把計算量去map reduce分給大家去一起算。

完全可以。

而且有人在做，做的內容與這描述的差不多。比原鏈號稱就是AI友好。

其實上面有@立黨的解決方法才是最好的，而且很可能成功的。（雖然本意是反諷，POW本來就是算慢了的就是浪費）

就是天下算力集中於一處，把一個問題按照目標進行獎勵。知識全球共享。

比如：圍棋，能力達到積分3000，可以分10萬幣，達到3300，可以分10萬幣。

同時演算法因為可以全球共享，所以可以全球受益。

圍棋我之前估算過，大約就是5億美元的投資，現在1億以內了。

但是，因為TPU掌握在谷歌手上，目前就谷歌能夠那麼快實現各種突破。

大家對GPU以及資源的渴求，可以去看leela 社區。

區塊鏈的未來強大想像力：

全球集中算力，全球共享模型，全球分享知識。

谷歌如果想壟斷知識，就得和全球競爭。（以全球民眾對抗壟斷資本主義）

圍棋、自動駕駛、醫療圖像等等，有錢的出錢，沒錢的出人力（比如你的疾病治療等個人數據），有AI智能的出智能，有晶元設計能力的設計晶元。

此為全球智能大同世界。

讓我們為此而奮鬥。

add:

1，比特幣目前的SHA256 花費太多能源，一直受到人們詬病。所以，如果能夠成功地實施新標準分散式計算做為新的POW，人們對區塊鏈的接受程度要好很多。

2，另外除了有償分布計算外，還有打破壟斷的作用，谷歌的TPU就是案例。谷歌堅持不賣TPU，就起到了壟斷知識的作用。

題主並沒有明白區塊鏈的算力是什麼。

礦工一直在做的就是一個簡單的SHA256的哈希運算。目的是把廣播的交易打包進一個新塊，這個新塊頭部有一個SHA256的哈希值，需要滿足一定要求，由於SHA256不可逆性，你只能正向計算一次次的試直到你產生的哈希值滿足要求為止。所以基本上就是在抽彩票，而且是全網大家一起抽。

因此挖礦現在廣泛採用的都是定製的硬體，因為SHA256的演算法明確，設計一個專門的數字電路來實現演算法要不用軟體實現的演算法跑在通用計算機上更快，更省電。這樣的硬體是無法支持深度學習訓練的。

深度學習訓練的演算法本身就不是確定的，另外你的網路也不可能都長一個樣（激活函數，損失函數不盡相同，層數不同，節點數不同），所以這是目前為什麼深度學習還是以GPU通用計算為主，或者張量計算晶元，還有另外一個可行的備選項是FPGA，除非你模型演算法都確定，但是算哈希的礦機也依然沒有什麼卵用。所以現在比特幣區塊鏈的算力並不能承載深度學習的應用。

Golem 傻逼證就是干這個的

AI的問題不全是算力的問題，演算法/數據更重要一點。不過倒是可以借鑒區塊鏈的想法搞個分散式算力出租平台。

這是想讓區塊鏈計算的工作量更有意義一些嗎？

目前數字貨幣使用的演算法不可以，一個區塊的工作量是靠找到符合條件的hash值得到體現的。目前深度學習的演算法和計算的目的，似乎跟這個無關。

不知道有沒有通過深度學習的方法可以做到比窮舉法更好的效果，而一個好的hash演算法設計，理論上是要避免這一點的。

其實SHA系列的演算法，有一些低於窮舉計算量的分析效果(相比窮舉法能少嘗試好幾個數量級)。不知道現在的挖礦機有沒有應用這些密碼分析的成果，來大大降低尋找區塊的工作量。

這個問題等價於：能否讓有錢人把錢拿出來幫助窮人。

區塊鏈的算力確實很大，但是這些算力不是免費的，都是有成本的。但是深度學習訓練即難以有償使用，更難以保證365天每天24都有償使用。布置在地下室的礦機可是天天不休的在幹活啊。

如果說把區塊鏈的求解方法改為深度學習訓練的話，一個問題就是挖到的比特幣到底屬於誰。現在的演算法是誰解出答案給誰，訓練呢？

比特大陸另一大業務就是雲ML計算，我感覺螞蟻礦機應該硬體上是適合的，現在就是沒有上區塊鏈分布結算和分布運算罷了