成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

6個(gè)優(yōu)秀的開源文件系統(tǒng)助力大數(shù)據(jù)分析

開源
“大數(shù)據(jù)”作為時(shí)下最火熱的IT行業(yè)的詞匯,個(gè)人、企業(yè)和政府機(jī)構(gòu)之間的互動(dòng)創(chuàng)造了數(shù)據(jù)的海洋,我們51CTO傳媒在4月26日-27日也將舉行2013大數(shù)據(jù)全球技術(shù)峰會(huì),分享大數(shù)據(jù)技術(shù)趨勢和最佳實(shí)踐,是一場重新認(rèn)識(shí)數(shù)據(jù)價(jià)值的技術(shù)盛宴。大數(shù)據(jù)需要大量的儲(chǔ)存空間,本文分享了6個(gè)優(yōu)秀的開源文件系統(tǒng),助力大數(shù)據(jù)深入分析。

大數(shù)據(jù)在今天吸引了大量關(guān)注,個(gè)人、企業(yè)和政府機(jī)構(gòu)之間的互動(dòng)創(chuàng)造了數(shù)據(jù)的海洋,通過有效識(shí)別、訪問、篩選和分析其中部分?jǐn)?shù)據(jù)能帶來新的見解和益處。大數(shù)據(jù)需要大量的儲(chǔ)存空間,先進(jìn)的存儲(chǔ)基礎(chǔ)設(shè)施必不可少,需要能在多臺(tái)服務(wù)器上伸縮自如的存儲(chǔ)解決方案。有許多優(yōu)秀的開源文件系統(tǒng)能用于深入分析大數(shù)據(jù),其中包括:

QFS

Quantcast File System (QFS) 是一個(gè)高性能、容錯(cuò)、分布式的文件系統(tǒng),其開發(fā)是用于支持 MapReduce 處理或者需要順序讀寫大文件的應(yīng)用。

HDFS

Hadoop Distributed File System,簡稱HDFS,是一個(gè)分布式文件系統(tǒng)。HDFS有著高容錯(cuò)性(fault-tolerent)的特點(diǎn),并且設(shè)計(jì)用來部署在低廉的(low- cost)硬件上。而且它提供高吞吐量(high throughput)來訪問應(yīng)用程序的數(shù)據(jù),適合那些有著超大數(shù)據(jù)集(large data set)的應(yīng)用程序。HDFS放寬了(relax)POSIX的要求(requirements)這樣可以實(shí)現(xiàn)流的形式訪問(streaming access)文件系統(tǒng)中的數(shù)據(jù)。HDFS開始是為開源的apache項(xiàng)目nutch的基礎(chǔ)結(jié)構(gòu)而創(chuàng)建,HDFS是hadoop項(xiàng)目的一部分,而 hadoop又是lucene的一部分。

HDFS

Ceph

Ceph是加州大學(xué)Santa Cruz分校的Sage Weil(DreamHost的聯(lián)合創(chuàng)始人)專為博士論文設(shè)計(jì)的新一代自由軟件分布式文件系統(tǒng)。自2007年畢業(yè)之后,Sage開始全職投入到Ceph開 發(fā)之中,使其能適用于生產(chǎn)環(huán)境。Ceph的主要目標(biāo)是設(shè)計(jì)成基于POSIX的沒有單點(diǎn)故障的分布式文件系統(tǒng),使數(shù)據(jù)能容錯(cuò)和無縫的復(fù)制。2010年3 月,Linus Torvalds將Ceph client合并到內(nèi) 核2.6.34中。IBM開發(fā)者園地的一篇文章探討了Ceph的架構(gòu),它的容錯(cuò)實(shí)現(xiàn)和簡化海量數(shù)據(jù)管理的功能。

Lustre

Lustre是一個(gè)大規(guī)模的、安全可靠的,具備高可用性的集群文件系統(tǒng),它是由SUN公司開發(fā)和維護(hù)的。

該項(xiàng)目主要的目的就是開發(fā)下一代的集群文件系統(tǒng),可以支持超過10000個(gè)節(jié)點(diǎn),數(shù)以PB的數(shù)據(jù)量存儲(chǔ)系統(tǒng)。

GlusterFS

GlusterFS 是一個(gè)集群的文件系統(tǒng),支持 PB 級的數(shù)據(jù)量。GlusterFS 通過 RDMA 和 TCP/IP 方式將分布到不同服務(wù)器上的存儲(chǔ)空間匯集成一個(gè)大的網(wǎng)絡(luò)并行文件系統(tǒng)。

PVFS

PVFS 是一個(gè)高性能、開源的并行文件系統(tǒng),主要用于并行計(jì)算環(huán)境中的應(yīng)用。特別為超大數(shù)量的客戶端和服務(wù)器端設(shè)計(jì)。模塊化結(jié)構(gòu)設(shè)計(jì),可輕松的添加新的硬件和算法支持。

PVFS 側(cè)重高性能訪問大數(shù)據(jù)集,包含一個(gè)服務(wù)器進(jìn)程和客戶端開發(fā)庫,完全基于用戶級代碼編寫。

特征:

  • 基于對象的設(shè)計(jì)思路
  • Optimized for regular strided access
  • 獨(dú)立數(shù)據(jù)和元數(shù)據(jù)的存儲(chǔ)
  • 優(yōu)化的 MPI-IO 支持
  • 多種網(wǎng)絡(luò)支持
  • 無狀態(tài)的服務(wù)器
  • 用戶級的實(shí)現(xiàn)方案
  • 系統(tǒng)級接口
  • 可在很多 Linux 版本上構(gòu)建
  • 支持多數(shù)平臺(tái),包括 IA32, IA64, Opteron, PowerPC, Alpha, and MIPS

原文鏈接:http://www.linuxlinks.com/article/20130411155608341/FileSystems.html

責(zé)任編輯:黃丹 來源: oschina.net
相關(guān)推薦

2019-08-22 09:08:53

大數(shù)據(jù)HadoopStorm

2018-06-05 12:06:20

Hadoop開源工具

2020-04-08 16:41:18

大數(shù)據(jù)Hadoop工具

2015-08-24 13:51:40

數(shù)據(jù)挖掘

2018-06-26 10:20:17

數(shù)據(jù)分析制造行業(yè)大數(shù)據(jù)

2023-10-13 13:11:26

大數(shù)據(jù)技術(shù)開源

2014-07-23 10:03:20

2018-11-08 15:12:16

數(shù)據(jù)分析算法決策樹

2013-01-06 11:01:59

大數(shù)據(jù)分析

2020-07-07 12:06:58

大數(shù)據(jù)數(shù)據(jù)分析工具

2013-05-17 09:51:35

大數(shù)據(jù)分析系統(tǒng)大數(shù)據(jù)

2017-07-20 16:40:36

大數(shù)據(jù)分析工具

2015-10-20 10:23:45

MIT大數(shù)據(jù)分析系統(tǒng)

2020-05-26 10:56:49

數(shù)據(jù)分析大數(shù)據(jù)數(shù)據(jù)

2023-10-11 11:34:54

數(shù)據(jù)分析運(yùn)營

2015-08-14 10:28:09

大數(shù)據(jù)

2021-01-20 15:02:22

數(shù)據(jù)分析大數(shù)據(jù)可視化

2017-08-16 10:21:36

大數(shù)據(jù)數(shù)據(jù)分析核心技術(shù)

2021-08-06 11:01:23

大數(shù)據(jù)數(shù)據(jù)分析技術(shù)

2024-02-22 08:35:49

點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號

主站蜘蛛池模板: 免费在线看黄 | 国产成人99久久亚洲综合精品 | 草草视频在线观看 | 国产激情在线播放 | 香蕉国产在线视频 | 日韩欧美三区 | www日本在线播放 | 亚洲一区二区网站 | 久久国产综合 | 国产在线一区二区 | 久久成人高清视频 | 天天操天天操 | 永久免费在线观看 | 日日摸夜夜添夜夜添精品视频 | 黄色欧美在线 | 国外成人在线视频网站 | 国产精品久久久乱弄 | 国产午夜在线 | 国产成人在线一区二区 | 99在线观看视频 | 亚洲一区二区久久 | 国产精品久久国产愉拍 | 国产乱码精品1区2区3区 | 亚洲日产精品 | 九色在线 | 欧美综合视频在线 | 久久久精品一区二区三区 | 日韩在线免费视频 | 成人免费视频7777777 | 九九久久精品 | 羞羞网站免费 | 欧美一区二区三区在线观看视频 | 亚洲精品美女视频 | 国产免费av网 | 国产在线精品一区二区三区 | 日韩电影免费观看中文字幕 | 成人久久18免费网站图片 | 日韩中文一区二区三区 | 亚洲一区二区三区高清 | 影音先锋中文字幕在线观看 | av中文在线播放 |