請問,在家裡攢一套 100TB-200TB 的存儲有什麼架構方案可以借鑒的?

  1. 預算10萬以內,性價比越高越好
  2. 帶寬和吞吐量不是很重要,USB 3.0/千兆LAN 單出口都可以接受,軟raid硬raid都行
  3. 可以是機櫃形式,有單間機房
  4. 耗電無所謂,雜訊小一點
  5. 可靠,2-3年內只需要更換壞掉的HDD或SSD,最多換換風扇
  6. 軟硬體架構都需要信息參考和指導

非常感謝


以前幫公司配置過一台戴爾R730xd伺服器,裸容量96TB,目前還在服役。這台機器基本滿足要求,只是容量比要求的稍微小了一點。我簡單介紹一下,並根據你的需求提出一些建議,供你參考。

戴爾R730xd是2U的機架式伺服器,配備雙路Xeon E5處理器,最多可搭載16塊3.5寸機械硬碟和額外兩塊2.5寸硬碟。這16塊機械硬碟中有12塊是外置的,裝在硬碟抽取盒裡面,剩下四塊是內置的,要開開機箱才能看見,如下圖所示。

我們當時整機買下來大概八萬多,具體配置如下。你可以針對你自己的需求稍作增減,我覺得10萬預算是沒問題的。

1、處理器:兩片Xeon E5 2620 v3。

2、內存:DDR4-2133,8GBx8,總共64GB

你如果只需要存儲的話,處理器和內存可以降一些,省一些錢。但我看你說還需要處理數據,還要放兩個Linux虛擬機,那我覺得你買這個配置也差不多。

3、3.5寸硬碟:12個7200轉企業級SATA,4個企業級SAS,都是6TB。

這個當時那個銷售沒跟我說清楚,戴爾自己的RAID卡是不支持SATA和SAS混合組RAID的!因此建議全換成企業級SATA。一定要企業級,不要圖便宜上家用級。因為家用級硬碟是沒有振動感測器的,十好幾個硬碟加上風扇,震動很劇烈,會嚴重影響磁碟的速寫性能和使用壽命,一定要用企業級。SATA和SAS其實無所謂。

因為買錯硬碟,這台R730xd的16個盤不能一起做成一個RAID。所以我只好12盤做了一個RAID6,系統可見容量為60TB,剩下4個盤做了一個RAID0,系統可見容量24TB,總計84TB。

現在8TB硬碟的技術和市場應該也比較成熟了,你如果需要100TB以上,我建議買16個8TB硬碟,組成RAID6,系統可見容量為112TB。

關於振動感測器和企業級硬碟可以參考:

hgst.com 的頁面

seagate.com 的頁面

希捷的官方資料特別指出,普通的NAS硬碟單機箱最多只能放5塊。可想而知桌面級硬碟只能放更少。我看有些答案推薦用桌面級硬碟,這是非常不科學的!以前我覺得用便宜的硬碟就行了,壞了還有RAID呢。但是諮詢公司一位老前輩之後,他跟我說他以前做過一個八盤的NAS,用的普通硬碟,做了RAID,剛開始沒有問題,但後來這些硬碟同時壞掉了好幾塊,超過了RAID的容災限制。

4、2.5寸硬碟:2個萬轉SAS硬碟,600GB

做了個RAID1,裝系統用,其實買7200轉的或者小容量SSD也可以。

5、電源:升級為雙1100W

這個好像多不了多少錢,為了穩定建議加上。

6、網卡:雙口10GbE

升級這個要幾千塊錢,你如果1G夠用的話,用最基本的網卡就可以。我們順帶還從戴爾買了兩條SFP+ Direct Attach Cable,上千塊。這兩個你都不要,可以剩下三四千左右。

7、RAID卡

當時買的是最高級的H730,並且配備了2GB的緩存,不過升級這個也才花了兩千塊錢的樣子,你如果不需要可以不用這麼高級的,省一些錢。

8、雜項:iDRAC遠程管理卡和支持NFC的智能面板

需要的話可以買,不買也能省一兩千塊錢。本來我以為這個機器不帶面板的,因此買的時候加了一個面板,誰知道那個面板選項其實是把普通面板替換成支持NFC的面板,還能再手機APP上管理伺服器,對我們來講用處確實不大。被銷售坑了幾千塊錢,真是醉人。。

這款機器是16盤位的,放8TB硬碟,做RAID6,最大也就是112TB了。如果你需要更大的存儲空間,你可以

1、選擇購買戴爾的DAS硬碟箱,通過外置RAID卡接到戴爾的主機,比如上述R730xd上面,相當於對原存儲擴容。但這麼一個機箱的價格和一台伺服器差不了太多。而且這種擴容方式並不會擴展原有的磁碟陣列的容量,而是增加一個新的磁碟陣列,你在系統里會看到兩個RAID。如果一定需要單個磁碟的話,則需要用Windows Storage Space或者Linux的LVM在操作系統這個層面組合在一起。

如果你選擇購買兩台伺服器的話,則可以考慮用分散式文件系統把他們整合在一起,如果你習慣用紅帽系列的Linux的話,GlusterFS是個不錯的選擇,不需要再找一台機器做元數據伺服器。我們之前一個合作夥伴和Supermicro買了兩台72TB的存儲伺服器,一台7萬多,互為備份。不過這個估計就超你預算了,不合適。

2、其他伺服器有24盤位甚至36盤位的,我們當時也諮詢了Supermicro,以我們當時96TB的需求,24盤位4TB的機器價格也是差不多的。你全換成6TB,裸容量可以有144TB,估計十萬也是能拿下來的。但盤數這麼多,做RAID50或者RAID60可靠性會更好一些。不過這個畢竟我們沒有買,我就不細談了。

但無論如何我強烈建議題主:

1、不要DIY。成熟的企業級方案穩定性遠高於DIY配置,價格也沒有高出很多。而且售後服務周到,有問題打服務熱線,售後人員會上門維修更換。如果一定圖便宜也建議買二手伺服器配合企業級硬碟。

2、不要圖便宜。買企業級硬碟,穩定。具體見上面第三條。


如果用大容量硬碟組raid的話,提醒一點:注意下重建時間。容量大意味著重建時間長,重建時間長會大大增加掛第二塊盤的風險。所以raid5是絕對不可取的。

又要擴展性,又要可靠性,還拿來做大數據分析,那其實還是分散式更好些。hdfs這個預算cover不到,考慮考慮Ceph吧~

傳統方案的話,那就是買幾個磁碟陣列櫃,16盤位以上的,sas級聯起來,最後連到伺服器上。raid6的話,再買塊ssd加速。如果有能力的話,折騰下ZFS。不過需要注意下zfs有幾個坑:1、非常吃內存,內存不夠的結果就是性能極差。2、需要陣列卡工作在it模式下,通常需要刷固件。3、ssd緩存(讀、寫)調教不好有反效果,務必測試好。


前面說了伺服器級別的思路,我覺得家用的話思路可以是另外一條。上來就思考伺服器的解決方式不一定適用於家用環境。

如果不用7x24小時在線的話,利用離線歸檔的模式整體成本是可以很低的。

如果僅僅是離線歸檔用,用最便宜的歸檔硬碟+雙備份,比起實際的用伺服器+SAS raid卡+伺服器硬碟會便宜非常多,而且因為是離線歸檔,無需7x24小時,實際使用上也不會組成RAID,而是用異地備份的思路去做。(容災性來說,異地離線備份絕對比Raid6甚至Raid1更加保險,還不需要使用伺服器硬碟,3T以上普通硬碟重建Raid掛掉的幾率在20%左右)

8T硬碟可選:

1.空氣盤 希捷ST8000AS0002 1650

2.氦氣盤 日立 HUH728080ALE600 2850

淘寶上10盤位的陣列箱大概在3200元左右,參考是世特力多10十盤位硬碟盒CRST1035U3IS6G,支持esata和USB3.0,就是下圖這貨。

也就是說,組一個80T的陣列成本,空氣盤和氦氣盤分別是16400元和31700元。用空氣盤做雙備份,成本也僅僅是是32800元。

如果用6個5盤位的箱子組成雙備份,成本可以控制在5w5以內,而容量達到了120T/240T,擴展也非常容易。只要繼續加硬碟箱子和硬碟就好了,壞了硬碟也不用重組RAID,重新把備份硬碟里數據拷貝一份就好了,因為硬碟不是一起使用的,同時壞掉的概率會非常低,非常安全。

總結下優缺點:

優點:

1.性價比非常高,在容災的前提上實現了不到伺服器假設成本的50%,120T部署成本僅僅5w5。

2.後期維護成本非常低,無需複雜的配置管理,無需損壞硬碟後重新替換並組建RAID,只需要買了新硬碟重新替換,無需準備熱備份硬碟。

3.部署簡單,使用簡單,把硬碟箱子插到電腦上管理就好了,或者再組台1000元的伺服器管理,不用挪移箱子。

缺點:

1.管理不方便,無法把所有硬碟同時通電(USB3或者ESTAT口不夠用的),無法實時調用數據,需要另外建立一套自己的文件管理體系。

2.同步麻煩,文件需要手動同步,不能組成RAID0(10盤位或許可以放5張盤+5張備份這種思路來簡化這方面的麻煩,甚至可以組軟RAID1來解決問題,這塊要繼續探索,但是也會加深部署的麻煩)。

3.壞硬碟沒有提示,要定期自己檢測,對於30塊硬碟來說,還是挺麻煩的。


這種問題建議直接諮詢本地dell,hp,lenovo經銷商,他們更專業。如果價格過高沒法接受就稍微降低一下需求。


只有容量要求沒什麼性能要求的話200T算不上什麼大問題。

先說省心一點的方案

買台Supermicro的4U准系統,最大可選擇36x3.5寸硬碟位的,性能無所謂所以CPU和內存選擇最低限度的就可以,外加硬體RAID卡一張,基於LSI 2208的8口內置卡即可,比如9271-8i+CV組件。全套下來大概20k多一點,剩下的就是硬碟錢了,至於買什麼等級的盤可以量力而行。

RAID組態的話建議RAID6,同一Array可以承受2塊硬碟的損壞而不丟失數據,因為單一Array限制32盤所以塞滿36盤的話至少做需要2個Array,個人的建議是以12塊盤做一個Array,每個Array的12塊盤11塊組RAID6剩下一塊做Hot Spare,這樣36盤最大可用容量相當於27盤,如果全用目前最高容量的8T盤那麼正好200T多一點,當然如果只需要100T的話那麼可以不配滿盤或者用小容量的盤。

如果想再省一點的話也不是不可以,只是總得來說硬碟的錢其實是大頭,硬體上再省意義可能並不是太大。自己DIY的話隨便弄台電腦插上RAID卡用SFF-8088線連上盤櫃就可以,一個盤櫃不夠的話那就以菊花鏈的形式多連幾個盤櫃,再省一點的話盤櫃也可以不買現成的而是自製,自己買機箱電源+SAS Expander就行,容錯性方面也可以不用硬體RAID方案而改用ZFS之類的軟體方案解決,那麼只需要HBA卡就可以。或者也可以選擇多套分離的系統,嫌多套分離系統麻煩的話也可以組成分散式文件系統來使用,反正方法可以是多種多樣的。


根據題主的需求,10w元建設100TB-200TB的存儲可以實現,但如果商業公司來做是沒有任何盈利的,絕對虧損。

所以我們不能指望從伺服器/存儲廠商、經銷商處獲得解決方案,只能自己DIY。

當前的磁碟,3.5英寸4TB的性價比最高,900元可以買到質量可靠的。

100TB需要25塊,考慮到冗餘、備用,100TB的存儲需要40塊,約3.6w,200TB則翻倍。

DIY主要有兩個思路:

  • 思路一:使用一個能容納40-80塊3.5寸磁碟的伺服器/存儲/磁碟櫃,如sun x4500 二手3000元/48盤位、Supermicro 2w/45盤位、Backblaze的DIY方案,用這一個節點提供所有的存儲空間和服務發布的功能。

    • 優勢:
      1. 結構簡單,管理方便;
      2. 空間佔用、耗電、噪音較低。
    • 缺陷:
      1. 單點結構,故障嚴重時不易處理;
      2. 可支撐100TB存儲空間,但基本沒有擴展性,無法達到200TB;
      3. 2w開銷性價比不高。

  • 思路二:使用多個低成本伺服器形成分散式存儲,統一發布,伺服器間形成冗餘。
    • 優勢:
      1. 成本低:可大膽採用低成本2手伺服器,如IBM x3650 M3,1000元/12盤位,買6台也不過6000元,和6塊硬碟成本差不多;

      2. 可靠性高:無單點故障,可以根據需求靈活定製高可靠方案,建議用跨節點的RAID6;
      3. 易擴展:使用LVM管理RAID組,隨時可以擴容;
      4. 性能較好:跑滿千兆網毫無壓力,太輕鬆。
    • 缺陷:
      1. 配置較繁瑣,需要時刻注意實際設備與邏輯名稱的關係,手動穩定下來;
      2. 空間佔用較高,較大規模下2u*9台約用18u的空間;
      3. 伺服器數量多,噪音、耗電、發熱大。

建議選擇第二種思路,可靠性、可控性更高,局部故障時不影響全局的正常工作,工作更順心。

參考:

Supermicro存儲設備:SuperStorage Solutions

BackBlaze Pod:The Hardware Inside B2 Cloud Storage


100TB按照目前可以買到最大容量的8TB硬碟來算你需要13塊,200TB要25塊也就是說你至少需要一台4U伺服器才能放得下,或許需要考慮4U+4U存儲櫃。容易買到的會是5U。

考慮可靠性,如果你所需要的可靠性是連續運行,而且你需要全部空間同時可用,那麼你需要考慮RAID6(因為10塊盤以上的RAID5和RAID0容錯性差異很小),那麼還得至少增加兩塊容錯盤。這還只能適用於100TB的情況,200TB的情況你大概無法使用單一陣列,必須要用多陣列運行,如果還需要形成同一個存儲空間的話就得軟硬結合陣列,那麼你可以考慮RAID5採用4+1,那麼就得再額外增加5塊到6塊硬碟。

恕我直言,還沒考慮硬RAID,光這個配置你的6萬預算就不夠。而且你還希望兩三年內只換硬碟和風扇,我個人以為你可以指望運氣。

如果要實現這個存儲空間,考慮到你只需要USB或者LAN連接,你可以考慮磁帶庫。成本會大幅降低,雖然隨機訪問性能大幅降低,但考慮到你的連接方式反正硬碟方案提供的性能你也用不上,不如用磁帶更好。不過這就不是NAS的範疇了。


我自己家裡有套100TB的。

4TB的桌面級硬碟*30塊,買6個ORICO的普通USB3的硬碟盒,每個盒子里放5塊

tb上找個最便宜的H67主板,配個低功耗i3,加16GB內存,根據主板介面情況,買兩塊好點的USB3轉接卡,把所有pcie匯流排都轉成USB3插口引出來。如果捨得花錢,再上個被動散熱+0雜訊電源。機箱用最便宜的的matx大小的那種。

買塊雙口的千兆網卡,二手的伺服器卡就行

配兩個64GB的SSD在主機裡頭,拿主板的控制器做RAID0,裝個Linux系統。

外接的硬碟用mdadm做RAID6,就是6,沒錯。

買個三層的微波爐架,下面兩層放硬碟盒,一層3個,主機放最上面,matx的大小的機箱應該正好放下。

微博爐架本身的金屬結構支架正好可以方便理線,下面帶萬向輪可以方便移動。

總計成本大約3W+左右,雜訊水平遠遠低於任何伺服器級別的系統,軟體raid6的可靠程度家用也足夠了。


先放結論吧:

10W的成本,算上交換機之類的預算,可以至少配置20台gen8伺服器,提供RAID5冗餘,總存儲空間是:180T;而且是硬RAID哦

按照單塊磁碟3T(性價比最高)來計算,滿足100T的需求,需要34塊磁碟;幾十塊磁碟的規模,哪怕企業級硬碟一年壞個一兩塊是非常正常的,所以冗餘是必不可少的。

至於冗餘的方案,從預算角度,採用HDFS這種分散式文件系統的成本會高於採用RAID5這種方案;考慮到僅有10W成本,RAID5應該是一個更好的選擇(當然,如果採用糾刪碼貌似可以帶來更高的空間利用率,不過沒研究過)。

在RAID5的情況,那麼一個核心問題是多少塊磁碟組成一個RAID5,最少是3塊,理論上單個RAID5掛的磁碟越多,磁碟空間利用率就越高,但是同時兩塊磁碟損壞的風險也越高。

假設就按照4個磁碟做一個RAID5前提下,那麼需要的磁碟個數是:46塊

磁碟成本按照京東藍盤價格:599 * 46,大概2.7W

伺服器方面,如果直接採用普通的刀片伺服器,成本應該可以在10W級別hold住,但是噪音肯定受不了。

不過剛好我有一台gen8,一個gen8可以掛4塊磁碟,最低配京東是2066,算上硬碟成本,做RAID5,那麼成本是:

2066 + 599*4,4462人民幣,可以提供9T的存儲

結論:

10W的成本,算上交換機之類的預算,可以至少配置20台gen8伺服器,提供RAID5冗餘,總存儲空間是:180T;而且是硬RAID哦

當然,如果願意折騰,肯定有更廉價的方案,甚至採用HDFS也是未嘗不可的(300T磁碟空間,HDFS有效空間100T),不過這個就看折騰能力,以及運維成本了。


可前往圖拉丁吧求方案……


根據題主需求,上萬能的TB搜索了一下,還是可以解決的。

以下是我的搭建思路,我儘可能給出選擇理由和參考價格,如果其中有不合理之處或者大家有更好的方案,請指出。

1.整體方案選擇zfs raidz+消費級硬碟方案,提供高性價比的同時儘可能避免raid5/6的寫漏洞問題,儘可能保證單塊硬碟故障時能成功重建陣列。

2.硬體方面,從題主的需求來看猜測在線要求不高,單hba卡+jbod盤櫃就好。

3.淘寶搜索"sas 盤櫃",選擇自己需要的盤櫃,要求帶sas 8088介面(進出都要有,不然無法擴展需要買更高級別的hba卡或者插多張卡),支持jbod,其它題主根據自己的要求和預算選擇。我假設這裡選擇的是比較便宜的rackable 3U機架式盤櫃,可插16硬碟,連運費和發票2500左右。大概單個盤位價格是156。

4.京東購買硬碟,選擇當前單位容量最便宜的,計算價格的時候記得把盤位價格加上去。目前看來還是3TB合算點(單硬碟600不到,連上盤位成本750左右,合每TB 250)。如果你選擇的是其它盤櫃,有可能算下來4TB或者6TB的存儲成本更低。

5.zfs方案選擇多組raidz2組合,一般推薦10個一組,單組可用容量3×(10-2)=24TB,成本7500。如果對數據安全性要求比較高的話,可以考慮15個一組的raidz3,單組可用容量3×(15-3)=36TB,成本為11250。

6.主機用普通2U伺服器就好,如果不需要考慮性能,同時使用的終端數量不超過5個的話,內存8-16G即可,CPU用單路E3/E5就夠。這個可選性太多,價格範圍也大,不做推薦。

7.HBA卡建議用lsi原廠卡,個人推薦9300-8e,有錢上16e也可以,不過好像一般2U箱子放不下,買4U的伺服器又有點浪費。

8.操作系統如果自己有能力折騰的話,用omnios或者solaris都行。懶得折騰的話,買Nexenta的許可(不太清楚價格,18T以內可以用免費的社區版,但題主的要求明顯超出18T了)。我個人不是很推薦重要或者大容量數據用freenas之類的bsd系統,從solaris把zfs移植到bsd內核這個過程中就有可能帶來某個不確定的bug。雖然說freenas社區更活躍點,但具體到題主的需求,我相信freenas在類似硬體環境下的案例不會太多。

9.如果同時使用終端較多,或者零碎文件讀寫多的話,可以考慮增加內存或者增加高速SSD做l2arc來提高性能,一般來說沒必要設置單獨的SSD做日誌盤,除非是資料庫應用。

10.不要打開zfs的重複數據刪除選項。一般人說的zfs吃內存是因為這個原因。公司應用的話,一份文件多人多次修改,或者一份文件大家都存一個版本的話這個功能也許很有用,但對於一個百TB級別的pool來說,你的預算不見得夠買內存的(加上能插這麼多內存的伺服器)。

加上機架,連接線,UPS等設備,以上基本可以控制100T在10W以內,200T可能會超出一點。

PS:最後,這個方案我自己沒實施過,風險自擔。


我家裡的配置 和 題主的需求 差不多:

請見 線上活動照片- 讓大家看看你的私人電影院吧!

圖裡的3台設備都是4個以上的風扇,噪音比較大。其他應該滿足題主要求。

體積:主機2U+存儲櫃3U*2 = 8U。 是短機箱!是短機箱!

費用:主機3000元 + 存儲櫃2500元*2 + 8TB希捷SMR硬碟1600元*30 = 56000元。

都是jbod直連,沒有做冗餘備份。所以還要再花4萬多買30塊硬碟做備份,放在下圖硬碟箱里。定期檢查差異做備份。

我答此題是為了:請各位指出我的系統可能存在的問題!不勝感激!


鑒於樓主需要使用虛擬機,目測為胖節點,那單個節點性能不能太差(E3/i7普通版性能不一定夠),至少是i7至尊版和E5。

主板:X99(沒什麼好說的,Z170搭配的平台性能不夠),如果需要考慮ipmi,可以選擇超微家的單路工作站主板,奶茶家也就3500,馬雲家可能更低),這樣可以省下個亮機卡,管理上也比較方便,但沒有m2介面。而其他家的x99主板一般都有m2,但需要個亮機卡。超微的大概有10個硬碟介面,其他家如華擎最多可以做到12個硬碟介面+m2.

cpu:如果需要ecc,那直接E5起跳(最便宜的E5-1620V3甚至比5820K還便宜),I7也可以,至於超頻。。。別鬧了,這不是跑分。cpu性能上不封頂,最強悍的2679V4在招手(馬雲家光qs散片都11000大洋)。

內存:如果使用i7,單條內存最大容量為16g,這樣整個系統內存容量上限為128GB,如果使用E5,則可以使用regecc,容量上限提升到256GB(如果還不夠那就只好選擇雙路主板了,但雙路主板硬碟介面一般並不比單路多多少。),至於傳說中的lrdimm,目測只有超微家的單路才能支持,其他家玩票性質的夠嗆。而且雙路主板能切只能使用regecc內存。x79時代福利沒了。。。。

硬碟:直接上各家的企業級硬碟,普通硬碟最大的就是希捷家的企業級,8TB大概2700左右(天貓的,筆者本人購買過企業級nas盤存硬碟女神),氦盤可以做到更大。至於如何選擇,看閣下的需要了。

電源:700W保底,有條件可以使用ups。

機箱:可以選擇大型雙塔機箱,當然選擇3U以上的伺服器機箱也行,但聲音不敢恭維。

散熱器:韓信將兵多多益善,如果是雙塔機箱阿薩辛都可以。

顯卡:超微家自帶ipmi不用顯卡,其他家可能需要一個R7-240/GT730作為亮機卡(這種顯卡空載時功耗很低的,一般不用考慮顯卡被燒壞的問題)。

如果選擇普通廠商的主板,可以選配一塊1TB的m2ssd作為系統盤和回寫緩存,不一定需要nvme,普通achi的ssd性能已經足以秒殺普通硬碟的各種組合(包括raid),價格還不錯(2000不到就可以選擇1tb的容量,如果是nvme至少需要3500大洋)。

網路:基本上都是千兆網卡,對付普通硬碟已經足夠,當然華擎家還有搭配雙萬兆網卡的奇葩(當然,萬兆布線成本很高,這點看閣下的具體需要)

這樣配下來一個節點空殼成本至少在8000元(1620V3+四通道16g內存(最低容量)+其他配置),正常一個節點的空殼成本在13000元左右(2686v3(目前性價比最高的x99cpu,馬雲家正式版價格甚至比6850K還便宜,但遊戲性能較差(和i7比))+128g內存(普通內存全插滿))。每個節點的容量如果採用普通硬碟大概要花25000~30000元可以獲得80~96TB的容量(這個按照8T計算,如果單個節點性能較弱可以選擇6T的小容量硬碟),氦盤至少要在50000元以上,但容量收益不大(不過100~120TB)這樣考慮起來除非單個節點性能過於強悍(2679V4+256gb內存,甚至雙路高端E5),目前還是普通硬碟比較划算。

這樣按照樓主的需要,兩三個節點已經滿足樓主的存儲需要,價位不過在七八萬元,就算雙備份也不為過(實際上樓主的需求一般2個節點已經足夠,雙備份實際上更加奢侈)。大容量硬碟往往搭配較強的的節點比較划算,小容量硬碟有時性價比看似划算,但卻需要更多的節點。

節點之間可以採用千兆互聯,一般一個16口千兆交換機不過幾百元。

由於硬碟數目並不多(十幾塊而已),可以採用軟raid形式管理(Linux,windows上都有類似功能)。如果能利用ssd作為回寫緩存,性能已經超過中低端raid卡。數據安全這點完全看個人使用習慣,畢竟預算有限,不要指望中低端raid卡帶來的蜜汁自信。實際上,100TB這麼龐大的容量,一般的raid卡已經明顯力不從心,想找一個合適的raid卡很麻煩的。

當然了,如果對每個節點80TB左右的容量不滿意,可以選購raid卡進行進一步擴展,一般來說10/12+8(10/12個本地介面,8個raid卡擴展的介面)個硬碟介面基本上滿足樓主的需要(144/160TB的容量),raid卡一般來說擴展8塊硬碟比較合適,16塊要考慮布線問題和raid卡本身的性能,再多已經毫無必要(pcie3.0X8帶寬理論上才8GB/s(實際上不少中低端raid卡都是走pcie2.0X4,能走到pcie2.0X8已經不多,這樣平均分到8塊硬碟上每塊硬碟帶寬才500MB/s不到(考慮到轉換的損失,實際上一般也就300~400MB/s,而單獨的大容量硬碟的讀寫帶寬一般也有200MB/s左右),16塊已經略顯擁擠)。這樣可以單獨一個節點就滿足需要(實在不行再準備1個節點作為熱備)。

至於每個節點的最多硬碟數量,一般來說,普通主板廠商的x99上pcie插槽數目較多(多一點的7個插槽),但超微等專業廠商的主板上數目就較少(而且限制很多,經常有不認顯卡事件發生),一般來說每個節點最多上2~3塊raid卡(雖然理論上上5個帶寬都夠,但這酸爽感),這樣每個節點最多理論上可以擴充10/12+8*3=34/36塊硬碟,可以想像,這個機箱的體積(一般來說這麼大的機箱至少要6U)

除此之外,還可以考慮為節點選購一個大容量pciessd作為高速緩存(1.2TB的pcie版本750也不貴),這樣常用的數據訪問速度大幅度提高。


來自圖吧的解決方案:

根據需要買個有四個pcie槽的主板 1500塊

根據需要買個cpu 1000塊

插滿內存 500塊

買個電源500

買個usb顯卡 100

買個兩個pcie 陣列卡 8087介面的 比如9261共 800塊

買兩個pcie介面的sli擴展板,共400塊

現在有4個8087介面了

買八根8087轉sata的線,一根可以轉出4個sata口,共32個 100塊

買32個8 t的硬碟,1500一個,共5萬

請燒電焊的幫你焊個硬碟架和機箱,注意設計好減震 300塊

買一張橡膠墊做減震 100塊

買一桶硅脂 50

散熱器和風扇200

去做鋁合金門窗那要點鋁片 100

用硅脂把鋁片貼在硬碟上散熱

其他 再加1000

共5萬8,256t,每g0.23元

軟體方面,

用陣列卡可以組成兩個大組,raid幾看你需要了,感覺raid6就夠了,5也沒多大問題,不放心的話可以多組幾組,然後就是很簡單的當成普通硬碟用就可以了,如果只要一個分區可以用win的動態磁碟或者linux的lvm連在一起

正版方案 4000塊 盜版方案0塊 淘寶買碼10塊

原來只是隨手寫一下最近倒騰的一個方案(因為錢不夠多,沒那麼多硬碟),沒想到竟然有人看

有人關心可靠性問題,在題主要求的吞吐量下問題不大。

運算部分,好一點的消費級主板7x24小時沒問題。

儲存部分,論讀寫hdd比ssd壽命長,機械硬碟真正的三大殺手是 電源質量 震動 溫度 ,設計的時候要多考慮,仔細琢磨好基本不輸中端企業方案,這三個方面也是突然一下子壞很多硬碟的原因,這三點做好,壞也是很分散的壞單個硬碟,有足夠的時間替換。

算下來圖吧方案是費腦子省錢,有人覺得這麼麻煩不如多花幾萬上專業方案,有人覺得琢磨幾天省幾萬美滋滋


看了需求,這麼大的空間需求,怎麼看都覺得需要的就是一套存儲方案呀。為什麼會有那麼多人推薦伺服器的。

讀寫性能和磁碟開銷,安全性和訪問管理方式,至少這4方面上一台存儲遠比標準伺服器上靠譜的多。

我原來在集成商幹活的時候,中高端的產品因為區域保護和備案機制。給客戶的出廠價至少30-40%的毛利。。。。


既然是家裡 那應該是自己玩的吧?

兩台全塔機箱,把光碟機槽全改了,一台可以放12個8T盤左右。 配個好點的電源+raid卡做raid5。

這樣一台的價格在40k左右。

剩下的20k可以考慮買個ups之類的


存儲 SSD NAS DAS_技術論壇_PCEVA,PC絕對領域,探尋真正的電腦知識

上硬體論壇問不是更快?


方案1:得到一個整體的200TB空間

Synology/群暉DS3617xe ¥20000 12個盤位;

再加兩個群暉DX1215 ¥10000 x2 12個盤位 x2;

一共36個盤位,留6個做雙校驗,剩30個盤位;

空箱硬體錢一共¥40000;

100TB:酷狼4TB x 36個=¥50400,總價¥90400,容量120TB;

200TB:酷狼8TB x 36個=¥90000;總價¥130000,容量240TB。

Synology/群暉DS3617xe

方案2:分開2~4個50TB空間

Synology/群暉DS1817 ¥7400 8個盤位,酷狼8TB x 8個=¥19200,做RAID5

一套¥26600,有效容量56TB;

兩套¥53200,有效容量112TB;

四套¥106400,有效容量224TB;

Synology/群暉DS1817


強答一波 圖吧垃圾佬風格方案(其實方案框架來自CHH)

我家正在漸進式組建類似方案

大體方案:

HP MSGen8 + 二手陣列卡+二手HP硬碟籠

MSGen8海淘不到2K 升級E3和16GB內存應該也不到3K,內置4盤位+光碟機位+SD卡

SD卡引導至光碟機位SSD啟動系統 內置4盤位全部放滿存儲硬碟,不要開RAID模式 直接AHCI就可以

P212陣列卡有一內一外兩個SAS口,全部引出機箱外,接兩個HPDL180G6硬碟籠可接24塊硬碟

每塊硬碟單獨Raid0(或者想辦法刷IT模式,我直接單盤Raid0的沒去研究)

系統裝Linux直接LVM放進一個卷組即可構成單一存儲

不放心散熱可以給硬碟籠做亞克力盒子後面放四個風扇 我現在就是那麼乾的 12V低噪音風扇供5V電 幾乎完全聽不見但是散熱足夠

硬碟籠供電可以買二手伺服器電源

陣列卡+硬碟籠一套應該1K以內可以搞定

剩下的就全是買硬碟了

這樣一套如果用8TB硬碟可以得到224TB

幾個建議:

不要一次性採購全部硬碟 LVM可以隨時擴展 都一塊買硬碟的話容易一塊全部到壽命掛掉至少同時多塊硬碟出問題的幾率會增大

一般來說這種可靠性要求不特別高的數據完全不用組Raid的,你組了Raid5之類的一旦重建會離線很長時間的

如果認為這樣可靠性不能滿足要求 還有簡單粗暴的方式

P212陣列卡改為4口的具體型號忘記了

再接兩個硬碟籠LVM軟RAID1

或者在陣列卡上雙盤配對Raid1 用LVM置於一個卷組組成單一存儲

由於Gen8隻有一個 所以容量稍減變成212TB

反正除去硬碟外的硬體 1W肯定能搞定了如果不用Raid1備份5K以內就可以 剩下的9W全部換成硬碟 按照8TB紅盤亞馬遜海外購的平時價格2.2K估算可以買320TB ,如果不一次性採購並狙擊促銷的話採購到424TB也有可能~

如果是短期內只要100TB的話就用 3.7K左右的WD10TB氦氣金盤 可以買到240TB足夠你組建100TB的Raid1了

LVM是支持PV缺失的情況下通過 partial模式啟動的,即最差的情況兩塊氦氣金盤Raid1全部掛掉了你的卷組依然可以在線然後可以移除掉出問題的PV,這樣只會丟失出問題的硬碟上的數據


8t 硬碟 2350一塊 買24塊差不多了 5.5w

再裝15個組裝機,就算和硬碟一半錢 3.5w,每個機器2個盤raid1

裝linux裝點分散式軟體, 再買點普通的網路設備。差不多了。


推薦閱讀:

事務性(Transactional)存儲需要硬體參與嗎?
在硬碟中,我們刪掉的文件去哪裡了?而為什麼文件在專門的公司又能被恢復?恢復的原理是什麼?
固態硬碟的用戶體驗如何?
家用存儲有哪些靠譜的方案?
EMC存儲和普通存儲在管理方式上有什麼區別?

TAG:網路附加存儲NAS | 企業私有雲 | 個人私有雲 | RAID | 數據存儲技術 |