FDS架構(gòu)

　　Google是怎么做到的呢？正是采用了已經(jīng)被驗證過的系統(tǒng)架構(gòu)和技術(shù) ，幫助數(shù)據(jù)中心帶來了深不可測的性能提升。MapReduc就是其中最著名的技術(shù)，被廣泛應(yīng)用于存儲節(jié)點。

　　此外，采用了全新的網(wǎng)絡(luò)拓?fù)洌⑹褂萌碌能浖軜?gòu)，這樣你就可以將數(shù)據(jù)自由的存儲在任何你希望它在的地方。數(shù)據(jù)中心儼然變成了計算機(jī)。

　　在服務(wù)器端，每個節(jié)點擁有8個PCI-E 3.0接口，提供高達(dá)每秒8GB的雙向帶寬，我們有足夠的I/O來延續(xù)摩爾定律，饑餓的CPU野蠻的吞噬著數(shù)據(jù)包。未來，SoC將集成網(wǎng)絡(luò)接口，提供更快的速度。

　　接下來的挑戰(zhàn)是讓網(wǎng)絡(luò)如何工作。今年5月，微軟利用分布式系統(tǒng)FDS創(chuàng)造了新的MinuteSort世界紀(jì)錄（速度比采用Hadoop架構(gòu)的Yahoo快了三倍，所用硬件資源只有后者1/6。），它展示了如何提供對等帶寬（bisectional bandwidth）的方法，讓每臺計算機(jī)之間都能全速傳輸數(shù)據(jù)，這讓數(shù)據(jù)存儲在遙遠(yuǎn)的地方變得可能，數(shù)據(jù)不需要必須存儲在當(dāng)?shù)氐臄?shù)據(jù)中心中。

　　建立一個負(fù)擔(dān)得起的對等網(wǎng)絡(luò)是需要絞盡腦汁選擇方法的。基本的原則包括改變協(xié)議，更換路由器，或者更換主機(jī)托管商。微軟給出的答案是更換托管商，并增加了集中控制層。

　　微軟在VL2中詳細(xì)說明了這一改變，VL2是一套可擴(kuò)展并十分靈活的網(wǎng)絡(luò)架構(gòu)：

　　一個可用的網(wǎng)絡(luò)架構(gòu)可以通過擴(kuò)展支持巨大的數(shù)據(jù)中心，并保證統(tǒng)一的高容量帶寬，各個服務(wù)器擁有獨立的帶寬。VL2使用：（1）扁平尋址，這可以允許服務(wù)實 例被放置到網(wǎng)絡(luò)覆蓋的任何地方，（2）負(fù)載均衡將流量統(tǒng)一的分配到網(wǎng)絡(luò)路徑，（3）終端系統(tǒng)的地址解析拓展到巨大的服務(wù)器池，并不需要將網(wǎng)路復(fù)雜度傳遞給 網(wǎng)絡(luò)控制平臺。

　　VL2的核心思想是使用CLOS拓?fù)浣Y(jié)構(gòu)建立扁平的第二層網(wǎng)絡(luò)。這樣做的好處是，虛擬機(jī)在數(shù)據(jù)中心內(nèi)任意移動，都永遠(yuǎn)不用改變IP地址。關(guān)于網(wǎng)絡(luò)第二層ARP廣播問題，通過改變ARP，并集中注冊服務(wù)來解決。將不再產(chǎn)生廣播風(fēng)暴。

　　這種方法看上去很奇怪，不過我參加了Hot Interconnects大會，關(guān)于VL2的整個方案充滿智慧。方案的成果顯而易見，成本低、高帶寬以及更低的東西部間的延遲，這一切都基于先進(jìn)的軟件架構(gòu)。不過它不支持任意路由vSwitch的方法這一特性，這意味著你不能采用未來可能出現(xiàn)的效率更高的拓?fù)浣Y(jié)構(gòu)。

　　微軟已建立FDS基準(zhǔn)代碼，并在其基礎(chǔ)上發(fā)布了Blob Storage系統(tǒng)：

　　值得一提的是，在我們的系統(tǒng)中沒有計算節(jié)點使用本地存儲的數(shù)據(jù)，我們相信FDS系統(tǒng)極具競爭力。總過1470GB數(shù)據(jù)全部存放在遠(yuǎn)程，在一分鐘內(nèi)總共傳輸了4.4TB數(shù)據(jù)。

　　FDS總是在網(wǎng)絡(luò)上發(fā)送數(shù)據(jù)。FDS采取兩種方式減少數(shù)據(jù)傳輸成本。首先，我們給每個存儲節(jié)點開通的網(wǎng)絡(luò)帶寬與其存儲帶寬匹配。SAS磁盤的讀取性能達(dá)到120MB/s，或約1Gb/s，所以在FDS集群存儲節(jié)點總是至少提供1Gb的網(wǎng)絡(luò)帶寬。第二，我們在存儲節(jié)點與計算節(jié)點間使用了對等帶寬網(wǎng)絡(luò)， 即CLOS拓?fù)浣Y(jié)構(gòu)，在Monsoon項目中采用了這一架構(gòu)。這兩種方式將在遠(yuǎn)程的CPU和磁盤間融合建立互補(bǔ)干擾的通道，使系統(tǒng)的總I/O帶寬基本上等 同于使用本地存儲系統(tǒng)，如MapReduce。FDS其性質(zhì)允許任何計算節(jié)點訪問任何數(shù)據(jù)，并具有同等的吞吐量。

　　作為分布式文件系統(tǒng)FDS已經(jīng)成為數(shù)據(jù)中心核心的架構(gòu)組件。

　　通過10/100 Gbps網(wǎng)絡(luò)和VL2以及FDS技術(shù)，我們?nèi)〉昧瞬诲e的進(jìn)展，數(shù)據(jù)中心資源池內(nèi)的CPU、內(nèi)存、存儲均做到可替換。但網(wǎng)絡(luò)仍然是不可替代的，盡管我并不確認(rèn)這意味著什么。SDN將幫助網(wǎng)絡(luò)成為第一級對象，但是由于性能的原因，網(wǎng)絡(luò)永遠(yuǎn)不能真正的與拓?fù)浣Y(jié)構(gòu)脫離。