採用NVMe over Fabrics應對橫向擴充套件儲存的挑戰
對於橫向擴充套件儲存架構所面臨的挑戰,NVMe over Fabrics已被證明是一種有用的解決方案,而儲存供應商和使用者都注意到了這一點。
一般來說,有兩種公認的擴充套件儲存架構的方法:縱向擴充套件和橫向擴充套件。縱向擴充套件主要通過增加單個硬體平臺的容量和功能來工作,而橫向擴充套件通過額外的伺服器或節點提高功能。從歷史上看,橫向擴充套件實施起來比較複雜,但隨著NVMe over Fabrics的出現,這可能會發生變化。
為了降低光纖網路的效能開銷,可以使用NVMe over Fabrics來解決某些橫向擴充套件儲存架構所面臨的限制。隨著越來越多的組織尋求高可擴充套件性,供應商開始將NVMe over Fabrics技術融入其產品中,以降低橫向擴充套件儲存所涉及的複雜性。
橫向擴充套件儲存的挑戰
橫向擴充套件儲存往往分為兩類:
(1)緊密耦合:儲存節點或伺服器彼此緊密結合,具有共享記憶體和專有高速背板等功能。人們認為是單片或向上擴充套件的一些產品實際上是橫向擴充套件架構,例如Dell EMC的PowerMax。
(2)鬆散耦合:在這種情況下,很多節點沒有緊密繫結在一起,但可以單獨操作。節點使用一些高速網路連線(通常是乙太網),不直接內建在平臺中。NetApp的SolidFire就是一個很好的例子,它使用多個1U伺服器和標準萬兆乙太網(GbE)網路。
NVMe開發的下一個合乎邏輯的步驟是通過結構或網路啟用協議。
緊密耦合的橫向擴充套件產品通常提供更高級別的彈性和更加一致的效能,而鬆散耦合的體系結構可以擴充套件得更多,但必須處理儲存驅動器和節點故障的影響。
實施橫向擴充套件儲存是一項挑戰,因為資料需要受到保護和保持一致。這意味著在平臺中實施技術以檢測節點何時發生故障,並在裝置或節點發生故障時通過橫向擴充套件叢集重新保護資料。
什麼是NVMe over Fabrics?
隨著資料中心效能需求的增加,儲存一直是提供快速高效應用程式的瓶頸。NVMe是一種旨在通過固態介質降低儲存協議效能開銷的技術。基於NVMe的SSD硬碟使用外圍元件互連高速(PCIe)連線到伺服器,在IOPS和吞吐量方面提供更大的頻寬,並且比SAS和SATA SSD硬碟具有更低的延遲。
NVMe over Fabrics的工作原理
NVMe開發的下一個合乎邏輯的步驟是通過結構或網路啟用協議。NVMe over Fabrics描述了一些已經開發的標準,這些標準是為通過光纖通道(FC),乙太網或InfiniBand網路傳輸NVMe協議而開發的。 NVM express傳輸是一個提供NVMe命令和資料傳輸抽象協議層。
如今,NVMe over FC和NVMe over Fabrics的儲存產品通過融合乙太網(RoCE),NVMe over InfiniBand和NVMe/TCP使用標準乙太網網路介面卡進行遠端直接記憶體訪問。
NVMe over Fabrics如何為實現橫向擴充套件儲存提供幫助?
人們看到的一種情況是典型儲存裝置中的元件分解。該架構支援主機和儲存介質之間更直接的路徑,從而無需通過集中控制器傳輸資料。即使是目前的橫向擴充套件儲存產品也存在這種限制,這可能導致不能充分利用SSD硬碟的能力。通過提供更直接的I/O路徑,單個主機可以與多個驅動器通訊,反之亦然。這減少了延遲並增加了橫向擴充套件能力。
NVMe規範的一部分提供了使這些工具工作的功能集。使用SAS和SATA驅動器,I/O堆疊在一個佇列中,在讀取內部NAND介質時會產生瓶頸。NVMe引入了65,535個佇列的功能,每個佇列最多可容納65,535個佇列元素。這使得在主機和驅動器之間實現高度並行的多對多的體系結構成為可能,併為每個主機/驅動器關係提供單獨的佇列。
在實施這種技術的供應商中,E8 Storage公司提供E8 NVMe裝置和基於主機的軟體驅動程式。該裝置充當元資料伺服器和乙太網到PCIe橋,將傳統儲存任務(如快照)載入到每個連線的主機。
Excelero公司擁有一個基於軟體的產品,可將許多伺服器連線到一個儲存消費者和提供商網路中。NVMesh軟體使任何儲存消費者都可以訪問任何伺服器中的任何驅動器,而無需採用目標伺服器CPU。其結果是一種可以實現額外容量增加的架構,而現有應用程式的開銷幾乎可以忽略不計。
WekaIO公司使用類似的技術來提供稱為Matrix的橫向擴充套件檔案系統架構。NVMe跨網路的低延遲以及分散式處理使得Matrix檔案系統能夠以比本地驅動器更快的速度執行。
關注的硬體重點
供應商還專注於構建只支援高可擴充套件性的硬體工具。Pavilion Data Systems公司開發了一個平臺,該平臺使用多達20個自定義硬體刀鋒伺服器和72個NVMe驅動器來建立機架級架構,能夠在100微秒時支援每秒120千兆位元組的頻寬。應用程式主機使用標準的40 GbE或100 GbE RoCE網路介面卡和NVMe over Fabrics驅動程式。
Vexata公司開發了一種架構,該架構使用商用硬體元件來擴充套件乙太網中的容量和效能。後端可擴充套件性通過基於硬體的企業儲存模組(ESM)實現,而前端連線提供NVMe over Fabrics功能和帶有I/O模組(IOM)的直接硬體I/O路徑。現有的實現目前提供多達16個企業儲存模組(ESM)和兩個I/O模組(IOM),儘管該體系結構可以擴充套件到更多。
Apeiron Data Systems公司是一家遵循硬體模型的初創公司。Apeiron ADS1000平臺使用NVMe over Ethernet和自定義主機匯流排介面卡,提供橫向擴充套件架構,可在單一配置中增長,支援數千個驅動器。
NVMe over Fabrics提供了消除傳統架構約束的能力,並建立了更具分佈性的產品。所有這些供應商產品的共同點是減少從主機到介質的I/O路徑的長度和影響。這將成為未來儲存設計的一個特徵,因為延遲仍然是儲存技術需要克服的最大挑戰。