Alluxio(虛擬分布式存儲系統(tǒng))

Alluxio是一個虛擬分布式存儲系統(tǒng)，它架起了計算框架和存儲系統(tǒng)之間的橋梁，使計算應(yīng)用能夠通過一個通用接口連接到眾多的存儲系統(tǒng)，Alluxio項目起源于加州大學(xué)伯克利分校AMPLab的一個名為Tachyon的研究項目，該項目是伯克利數(shù)據(jù)分析棧（BDAS）的數(shù)據(jù)層。

軟件截圖1

軟件特色

1、靈活的文件API：Alluxio的本地API類似于java.io.File類，提供了 InputStream和OutputStream的接口和對內(nèi)存映射I/O的高效支持。我們推薦使用這套API以獲得Alluxio的完整功能以及最佳性能。

2、兼容Hadoop HDFS的文件系統(tǒng)接口:基于這套接口Hadoop MapReduce和Spark可以使用Alluxio代替HDFS。

3、可插拔的底層存儲：Alluxio支持將內(nèi)存數(shù)據(jù)持久化到底層存儲系統(tǒng)。Alluxio提供了通用接口以簡化對接不同的底層存儲系統(tǒng)。目前Alluxio支持Microsoft Azure Blob Store，Amazon S3，Google Cloud Storage，OpenStack Swift，GlusterFS， HDFS，MaprFS，Ceph，NFS，Alibaba OSS，Minio以及單節(jié)點本地文件系統(tǒng)，后續(xù)也會支持更多其他存儲系統(tǒng)。

4、Alluxio層級存儲：Alluxio可以管理內(nèi)存和本地存儲如SSD和HDD，以加速數(shù)據(jù)訪問。如果需要更細粒度的控制，分層存儲功能可以用于自動化管理不同層之間的數(shù)據(jù)，確保熱數(shù)據(jù)在更快的存儲層上。自定義策略可以方便地應(yīng)用到Alluxio，而且pin(釘住)的概念允許用戶顯式地控制數(shù)據(jù)的存放位置。

5、統(tǒng)一命名空間：Alluxio可以通過掛載功能實現(xiàn)不同存儲系統(tǒng)之間的高效數(shù)據(jù)管理。并且，透明命名機制在持久化存儲對象到底層存儲系統(tǒng)時可以保留存儲對象的文件名和目錄層次結(jié)構(gòu)。

6、Web UI：用戶可以通過Web UI瀏覽文件系統(tǒng)。在調(diào)試模式下，管理員還可以查看每一個文件的詳細信息，包括存放位置，檢查點路徑等。

7、命令行：用戶也可以通過./bin/alluxio fs與Alluxio交互，例如：實現(xiàn)將數(shù)據(jù)從文件系統(tǒng)拷入拷出。