分布式对象存储_分布式对象存储服务

什么是HDFS硬盘分布式存储？

6、系统中数据块的位置并不是由namenode维护的，而是以块列表形式存储在datanode中；

Namenode 是一个中心，单一节点（简化系统的设计和实现），负责管理文件系统的名字空间(namespace)以及客户端对文件的访问。

分布式对象存储_分布式对象存储服务

分布式对象存储_分布式对象存储服务

云计算的开发需要多种语言共同参与，HADOOP在云计算产品中只是一个底层框架，适合做云盘、分布式计算等底层业务。很少有一种云产品只用一种开发语言解决所有问题的，语言只是工具，关键是要学会在不同的应用场景下，如何正确选择合适的工具。云产品的框架有很多，比如OpenStack是用Python写的，Hadoop是用Ja写的。

文件作，NameNode 负责文件元数据的作，DataNode负责处理文件内容的读写请求，跟文件内容相关的数据流不经过NameNode，只会询问它跟哪个DataNode联系，否则NameNode会成为系统的瓶颈。

副本存放在哪些DataNode上由 NameNode来控制，根据全局情况做出块放置决定，读取文件时NameNode尽量让用户先读取最近的副本，降低带块消耗和读取时延

Namenode 全权管理数据块的，它周期性地从集群中的每个Datanode接收心跳信号和块状态报告(Blockreport)。接收到心跳信号意味着该Datanode节点工作正常。块状态报告包含了一个该Datanode上所有数据块的列表。

NameNode支持对HDFS中的目录、文件和块做类似文件系统的创建、修改、删除、列表文件和目录等基本作。 块存储管理，在整个HDFS集群中有且只有一个处于active状态NameNode节点，该节点负责对这个命名空间（HDFS）进行管理。

1、Name启动的时候首先将fsimage（镜像）载入内存，并执行（replay）编辑日志editlog的的各项作；

2、一旦在内存中建立文件系统元数据映射，则创建一个新的fsimage文件（这个过程不需SecondaryNameNode） 和一个空的editlog；

3、在安全模式下，各个datanode会向namenode发送块列表的情况；

4、此刻namenode运行在安全模式。即NameNode的文件系统对于端来说是只读的。(显示目录，显示文件内容等。写、删除、重命名都会失败)；

5、NameNode开始RPC和HTTP请求

7、在系统的正常作期间，namenode会在内存中保留所有块信息的映射信息。

存储文件，文件被分成block存储在磁盘上，为保证数据安全，文件会有多个副本 namenode和client的指令进行存储或者检索block，并且周期性的向namenode节点报告它存了哪些文件的blo

文件切分成块（默认大小128M），以块为单位，每个块有多个副本存储在不同的机器上，副本数可在文件生成时指定（默认3）

NameNode 是主节点，存储文件的元数据如文件名，文件目录结构，文件属性（生成时间,副本数,文件权限），以及每个文件的块列表以及块所在的DataNode等等

DataNode 在本地文件系统存储文件块数据，以及块数据的校验和。

可以创建、删除、移动或重命名文件，当文件创建、写入和关闭之后不能修改文件内容。

NameNode启动流程

1、Name启动的时候首先将fsimage（镜像）载入内存，并执行（replay）编辑日志editlog的的各项作；

2、一旦在内存中建立文件系统元数据映射，则创建一个新的fsimage文件（这个过程不需SecondaryNameNode） 和一个空的editlog；

3、在安全模式下，各个datanode会向namenode发送块列表的情况；

4、此刻namenode运行在安全模式。即NameNode的文件系统对于端来说是只读的。(显示目录，显示文件内容等。写、删除、重命名都会失败)；

5、NameNode开始RPC和HTTP请求

7、在系统的正常作期间，namenode会在内存中保留所有块信息的映射信息。

HDFS的特点

优点：

这里的超大文件通常是指百MB、数百TB大小的文件。目前在实际应用中，HDFS已经能用来存储管理PB级的数据了。

HDFS的设计建立在更多地响应"一次写入、多次读取"任务的基础上。这意味着一个数据集一旦由数据源生成，就会被分发到不同的存储节点中，然后响应各种各样的数据分析任务请求。在多数情况下，分析任务都会涉及数据集中的大部分数据，也就是说，对HDFS来说，请求读取整个数据集要比读取一条记录更加高效。

3）运行于廉价的商用机器集群上

缺点：

1）不适合低延迟数据访问

如果要处理一些用户要求时间比较短的低延迟应用请求，则HDFS不适合。HDFS是为了处理大型数据集分析任务的，主要是为达到高的数据吞吐量而设计的，这就可能要求以高延迟作为代价。

因为Namenode把文件系统的元数据放置在内存中，所以文件系统所能容纳的文件数目是由Namenode的内存大小来决定。一般来说，每一个文件、文件夹和Block需要占据150字节左右的空间，所以，如果你有100万个文件，每一个占据一个Block，你就至少需要300MB内存。当前来说，数百万的文件还是可行的，当扩展到数十亿时，对于当前的硬件水平来说就没法实现了。还有一个问题就是，因为Map task的数量是由splits来决定的，所以用MR处理大量的小文件时，就会产生过多的Maptask，线程管理开销将会增加作业时间。举个例子，处理10000M的文件，若每个split为1M，那就会有10000个Maptasks，会有很大的线程开销；若每个split为100M，则只有100个Maptasks，每个Maptask将会有更多的事情做，而线程的管理开销也将减小很多。

1280M 1个文件 10block150字节 = 1500 字节 =1.5KB

1280M 12.8M 100个 100个block150字节 = 15000字节 = 15KB

3）不支持多用户写入及任意修改文件

在HDFS的一个文件中只有一个写入者，而且写作只能在文件末尾完成，即只能执行追加作。目前HDFS还不支持多个用户对同一文件的写作，以及在文件任意位置进行修改。

四、HDFS文件 读写流程

4.了解了 Ceph 的概念架构之后，您可以挖掘到另一个层次，了解在 Ceph 中实现的主要组件。Ceph 和传统的文件系统之间的重要异之一就是，它将智能都用在了生态环境而不是文件系统本身。1 读文件流程

调用 分布式文件 DistributedFileSystem.open()方法。

（2） 从 NameNode 获得 DataNode 地址

DistributedFileSystem 使用 RPC 调用 NameNode， NameNode返回存有该副本的 DataNode 地址， DistributedFileSystem 返回一个输入流 FSDataInputStream对象， 该对象封存了输入流DFSInputStream。

（3） 连接到DataNode

调用 输入流 FSDataInputStream 的 read() 方法， 从而输入流DFSInputStream 连接 DataNodes。

反复调用 read()方法， 从而将数据从 DataNode 传输到客户端。

（5） 读取另外的DataNode直到完成

到达块的末端时候， 输入流 DFSInputStream 关闭与DataNode 连接，寻找下一个 DataNode。

（6） 完成读取， 关闭连接

即调用输入流 FSDataInputStream.close() 。

4.2 写文件流程

（1） 发送创建文件请求： 调用分布式文件系统DistributedFileSystem.create()方法；

（2） NameNode中创建文件记录： 分布式文件系统DistributedFileSystem 发送 RPC 请求给namenode， namenode 检查权限后创建一条记录， 返回输出流 FSDataOutputStream， 封装了输出流 DFSOutputDtream；

（3） 客户端写入数据： 输出流 DFSOutputDtream 将数据分成一个个的数据包， 并写入内部队列。 DataStreamer 根据 DataNode 列表来要求 namenode 分配适合的新块来存储数据备份。一组DataNode 构成管线(管线的 DataNode 之间使用 Socket 流式通信)

（4） 使用管线传输数据： DataStreamer 将数据包流式传输到管线个DataNode， 个DataNode 再传到第二个DataNode ,直到完成。

（5） 确认队列： DataNode 收到数据后发送确认， 管线的DataNode所有的确认组成一个确认队列。 所有DataNode 都确认， 管线数据包删除。

（6） 关闭： 客户端对数据量调用close（） 方法。 将剩余所有数据写入DataNode管线， 并联系NameNode且发送文件写入完成信息之前等待确认。

（7） NameNode确认

（8） 故障处理： 若过程中发生故障， 则先关闭管线， 把队列中所有数据包添加回去队列， 确保数据包不漏。 为另一个正常DataNode的当前数据块指定一个新的标识， 并将该标识传送给NameNode, 一遍故障DataNode在恢复后删除上面的不完整数据块. 从管线中删除故障DataNode 并把余下的数据块写入余下正常的DataNode。 NameNode发现复本两不足时， 会在另一个节点创建一个新的复本

CentOS 7部署 Ceph分布式存储架构

中文版累计销售超10万册，畅销经典Spring技术图书，针对Spring4全新升级作者CraigWalls，SpringSource的软件开发人员，也是一位畅销书作者。第3版译者继续翻译新版，品质保障！

随着OpenStack日渐成为开源云计算的标准软件栈，Ceph也已经成为OpenStack的后端存储。Ceph是一种为的性能、可靠性和可扩展性而设计的统一的、分布式文件系统。

开发一个分布式文件系统需要多方努力，但是如果能准确地解决问题，它就是无价的。Ceph 的目标简单地定义为：

Ceph是一个开源的分布式文件系统。因为它还支持块存储、对象存储，所以很自然的被用做云计算框架openstack或cloudstack整个存储后端。当然也可以单独作为存储，例如部署一套集群作为对象存储、SAN存储、NAS存储等。

前三台增加一块硬盘/dev/sdb实验, 创建《Docker容器：利用Kubernetes、Flannel、Cockpit和Atomic构建和部署》目录并挂载到/var/local/osd{1,2,3};

规范系统主机名添加hosts文件实现集群主机名与主机名之间相互能够解析（host 文件添加主机名不要使用fqdn方式）可用 hostnamectl set-hostname [name] 设置分别打开各节点的 /etc/hosts 文件，加入这四个节点ip与名称的对应关系:

在管理节点使用ssh-keygen 生成ssh keys 发布到各节点

步：增加 yum配置文件(各个节点都需要增加yum源) vim /etc/yum.re.d/ceph.repo

或阿里的ceph源

配置文件到其它节点和客户端

在ceph1更新软件源并安装ceph-deploy 管理工具

配置文件的默认副本数从3改成2，这样只有两个osd也能达到 active+clean 状态，添加行 osd_pool_default_size = 2

(如果网络源安装失败，手工安装epel-release 然后安装yum –yinstall cep-release再yum –y install ceph ceph-radosgw)

错误参考：

添加osd节点 (所有osd节点执行)

我们实验准备时已经创建目录/var/local/osd{id}

（用ceph-deploy把配置文件和admin密钥拷贝到所有节点，这样每次执行Ceph命令行时就无需指定monitor地址和ceph.client.admin.keyring了）

以上基本上完成了ceph存储集群的搭建。

其中：

= 128 ,

关于创建存储池

确定 pg_num 取值是强制性的，因为不能自动计算。下面是几个常用的值：

随着 OSD 数量的增加，正确的 pg_num 取值变得更加重要，因为它显著地影响着集群的行为、以及出错时的数据持久性（即灾难性导致数据丢失的概率）。

创建好存储池后，你就可以用 fs new 命令创建文件系统了

ceph fs new cephfs_metadata cephfs_data

其中： = cephfs 可自定义

在这里想起没在/etc/fstab配置ceph1、ceph2、ceph3的sdb自动挂载。

ceph在开源社区还是比较热门的，但是更多的是应用于云计算的后端存储。所以大多数在生产环境中使用ceph的公司都会有专门的团队对ceph进行二次开发，ceph的运维难度也比较大。但是经过合理的优化之后，ceph的性能和稳定性都是值得期待的。

可以参考内容：

【ceph】对象存储的目录/文件夹概念

（或许可以猜测，把磁盘挂在本地这种现存商业计算机的架构，也是由企业/个2.体对计算机使用的商业模式驱动的，而不一定是技术驱动的必然结果）

对象存储（OSS）中文件夹的概念仅是一个逻辑概念，在通过API/SDK的方式设置文件夹的时候可以指定object对应的key值包括前面的目录即可实现该功能。例如，定义object的key为abc/1.jpg就会在该buc《Ja架构师指南》ket下创建一个abc的文件夹，而在文件夹下即会有一个1.jpg的文件。

ceph分布式存储为啥

（4） 读取DataNode

Ceph是根据加州大学Santa Cruz分校的Sage Weil的博士论文所设计开发的新一代自由软件分布式文件系统，其设计目标是良好的可扩展性(PB级别以上)、高性能及高可靠性。

Ceph其命名和UCSC（Ceph 的诞生地）的吉祥物有关，这个吉祥物是“Sammy”，一个香蕉色的蛞蝓，就是头足类中无壳的软体动物。这些有多触角的头足类动物，是对一个分布式文件系统高度并行的形象比喻。

其设计遵循了三个原则：数据与元数据的分离，动态的分布式的元数据管理，可靠统一的分布式对象存储Hadoop设计对硬件需求比较低，只须运行在低廉的商用硬件集群上，而无需昂贵的高可用性机器上。廉价的商用机也就意味着大型集群中出现节点故障情况的概率非常高。这就要求或许可以这样说，“存”“算”一体的架构是现代分布式数据库技术进化过程中的一个重要过渡阶段，其 历史 作用不可否认，毋庸质疑；而不久的将来，分布式数据库架构向云原生快速发展普及的趋势将会越来越明显，步伐将会越来越加快......设计HDFS时要充分考虑数据的可靠性，安全性及高可用性。机制。本文将从Ceph的架构出发，综合性的介绍Ceph分布式文件系统特点及其实现方式。

更多技术细节参考

Hadoop分布式文件系统HDFS和OpenStack对象存储系统Swift有何不同

所云存储专家200分钟视频讲解，掌握云存储理论，动手搭建分布式对象存储架构以，神州云科能顺利进入金融、医疗、教育、制造、安防

1.HDFS使用集中式单一节点架构(NameNode)来维护文件系统元数据，而在Swift中，元数据分布在整个集群中并拥有多个副本。注意：集中式元数据存储使HDFS存在性能、单点故障和扩展性问题，因此规模越大就性能越低，就越容易不可用，就越难扩展甚至不能扩展，所幸的是HDFS2使用NameNode

HA和HDFS

Federation解决了这三个问题而在PaaS层的数据库服务中，则出现两种情况。一种是“存”与“算”也由消费者分别选择并扩缩，而另一种则是购买服务时，“存”与“算”是固定捆绑的架构组合，可以定义大小，但无法相对地选择、部署与扩缩。。

Swift在设计时考虑到了多租户架构，而HDFS没有多租户架构这个概念。

3.

HDFS针对大文件作了优化(HDFS关注吞吐量，常用于批量数据处理)，而Swift被设计成可以存储任意大小的文件。

4.

在HDFS中，文件只能写入一次（部分版本可以使用Append作在文件的末尾添加数据，但不支持在文件的任意位置进行修改），而在Swift中，文件可以写入多次。

5.

HDFS用Ja来编写，而Swift用Python来编写。

Ceph：一个 Linux PB 级分布式文件系统

（1） 打开分布式文件

Ceph 最初是一项关于存储系统的 PhD 研究项目，由 Sage Weil 在 University of California, Santa Cruz（UCSC）实施。但是到了 2010 年 3 月底，您可以在主线 Linux 内核（从 2.6.34 版开始）中找到 Ceph 的身影。虽然 Ceph 可能还不适用于生产环境，但它对测试目的还是非常有用的。本文探讨了 Ceph 文件系统及其的功能，这些功能让它成为可扩展分布式存储的最有吸引力的备选。

“Ceph” 对一个文件系统来说是个奇怪的名字，它打破了大多数人遵循的典型缩写趋势。这个名字和 UCSC（Ceph 的诞生地）的吉祥物有关，这个吉祥物是 “Sammy”，一个香蕉色的蛞蝓，就是头足类中无壳的软体动物。这些有多触角的头足类动物，提供了一个分布式文件系统的最形象比喻。

不幸的是，这些目标之间会互相竞争（例如，可扩展性会降低或者抑制性能或者影响可靠性）。Ceph 开发了一些非常有趣的概念（例如，动态元数据分区，数据分布和），这些概念在本文中只进行简短地探讨。Ceph 的设计还包括保护单一点故障的容错功能，它假设大规模（PB 级存储）存储故障是常见现象而不是例外情况。，它的设计并没有假设某种特殊工作负载，但是包括适应变化的工作负载，提供性能的能力。它利用 POSIX 的兼容性完成所有这些任务，允许它对当前依赖 POSIX 语义（通过以 Ceph 为目标的改进）的应用进行透明的部署。，Ceph 是开源分布式存储，也是主线 Linux 内核（2.6.34）的一部分。

现在，让我们探讨一下 Ceph 的架构以及高端的核心要素。然后我会拓展到另一层次，说明 Ceph 中一些关键的方面，提供更详细的探讨。

Ceph 生态系统可以大致划分为四部分（见图 1）：客户端（数据用户），元数据（缓存和同步分布式元数据），一个对象存储集群（将数据和元数据作为对象存储，执行其他关键职能），以及的集群监视器（执行监视功能）。

如图 1 所示，客户使用元数据，执行元数据作（来确定数据位置）。元数据管理数据位置，以及在何处存储新数据。值得注意的是，元数据存储在一个存储集群（标为 “元数据 I/O”）。实际的文件 I/O 发生在客户和对象存储集群之间。这样一来，更高层次的 POSIX 功能（例如，打开、关闭、重命名）就由元数据管理，不过 POSIX 功能（例如读和写）则直接由对象存储集群管理。

另一个架构视图由图 2 提供。一系列通过一个客户界面访问 Ceph 生态系统，这就明白了元数据和对象级存储器之间的关系。分布式存储系统可以在一些层中查看，包括一个存储设备的格式（Extent and B-tree-based Object File System [EBOFS] 或者一个备选），还有一个设计用于管理数据，故障检测，恢复，以及随后的数据迁移的覆盖管理层，叫做 Reliable Autonomic Distributed Object Storage （RADOS）。，监视器用于识别组件故障，包括随后的通知。

图 3 显示了一个简单的 Ceph 生态系统。Ceph 是 Ceph 文件系统的用户。Ceph Metadata Daemon 提供了元数据，而 Ceph Object Storage Daemon 提供了实际存储（对数据和元数据两者）。，Ceph Monitor 提供了集群管理。要注意的是，Ceph 客户，对象存储端点，元数据（根据文件系统的容量）可以有许多，而且至少有一对冗余的监视器。那么，这个文件系统是如何分布的呢？

早期版本的 Ceph 利用在 User SpacE（FUSE）的 Files，它把文件系统推入到用户空间，还可以很大程度上简化其开发。但是今天，Ceph 已经被集成到主线内核，使其更快速，因为用户空间上下文交换机对文件系统 I/O 已经不再需要。

因为 Linux 显示文件系统的一个公共界面（通过虚拟文件系统交换机 [VFS]），Ceph 的用户图就是透明的。的图肯定是不同的，考虑到很多会包含存储系统这一潜在因素（要查看更多创建 Ceph 集群的信息，见 参考资料 部分）。从用户的角度看，他们访问大容量的存储系统，却不知道下面聚合成一个大容量的存储池的元数据，监视器，还有的对象存储设备。用户只是简单地看到一个安装点，在这点上可以执行标准文件 I/O。

Ceph 文件系统 — 或者至少是客户端接口 — 在 Linux 内核中实现。值得注意的是，在大多数文件系统中，所有的控制和智能在内核的文件系统源本身中执行。但是，在 Ceph 中，文件系统的智能分布在节点上，这简化了客户端接口，并为 Ceph 提供了大规模（甚至动态）扩展能力。

Ceph 使用一个有趣的备选，而不是依赖分配列表（将磁盘上的块映射到指定文件的元数据）。Linux 图中的一个文件会分配到一个来自元数据的 inode number（INO），对于文件这是一个的标识符。然后文件被推入一些对象中（根据文件的大小）。使用 INO 和 object number（ONO），每个对象都分配到一个对象 ID（OID）。在 OID 上使用一个简单的哈希，每个对象都被分配到一个放置组。 放置组 （标识为 PGID）是一个对象的概念容器。，放置组到对象存储设备的映射是一个伪随机映射，使用一个叫做 Controlled Replication Under Scalable Hashing （CRUSH）的算法。这样一来，放置组（以及副本）到存储设备的映射就不用依赖任何元数据，而是依赖一个伪随机为了便于大家理解，这里打个简单的比方。我们可以将数据比作成货物，存储比作成拉货的卡车货，直连存储就相当于用普通货车拉货。的映射函数。这种作是理想的，因为它把存储的开销最小化，简化了分配和数据查询。

分配的组件是集群映射。 集群映射 是设备的有效表示，显示了存储集群。有了 PGID 和集群映射，您就可以定位任何对象。

元数据（cmds）的工作就是管理文件系统的名称空间。虽然元数据和数据两者都存储在对象存储集群，但两者分别管理，支持可扩展性。事实上，元数据在一个元数据集群上被进一步拆分，元数据能够自适应地和分配名称空间，避免出现热点。如图 4 所示，元数据管理名称空间部分，可以（为冗余和性能）进行重叠。元数据到名称空间的映射在 Ceph 中使用动态子树逻辑分区执行，它允许 Ceph 对变化的工作负载进行调整（在元数据之间迁移名称空间）同时保留性能的位置。

但是因为每个元数据只是简单地管理客户端人口的名称空间，它的主要应用就是一个智能元数据缓存（因为实际的元数据最终存储在对象存储集群中）。进行写作的元数据被缓存在一个短期的日志中，它最终还是被推入物理存储器中。这个动作允许元数据将最近的元数据回馈给客户（这在元数据作中很常见）。这个日志对故障恢复也很有用：如果元数据发生故障，它的日志就会被重放，保证元数据安全存储在磁盘上。

元数据管理 inode 空间，将文件名转变为元数据。元数据将文件名转变为索引节点，文件大小，和 Ceph 客户端用于文件 ICeph特点/O 的分段数据（布局）。

Ceph 包含实施集群映射管理的监视器，但是故障管理的一些要素是在对象存储本身中执行的。当对象存储设备发生故障或者新设备添加时，监视器就检测和维护一个有效的集群映射。这个功能按一种分布的方式执行，这种方式中映射升级可以和当前的流量通信。Ceph 使用 Paxos，它是一系列分布式共识算法。

和传统的对象存储类似，Ceph 存储节点不仅包括存储，还包括智能。传统的驱动是只响应来自启动者的命令的简单目标。但是对象存储设备是智能设备，它能作为目标和启动者，支持与其他对象存储设备的通信和合作。

从存储角度来看，Ceph 对象存储设备执行从对象到块的映射（在客户端的文件系统层中常常执行的任务）。这个动作允许本地实体以方式决定怎样存储一个对象。Ceph 的早期版本在一个名为 EBOFS 的本地存储器上实现一个自定义低级文件系统。这个系统实现一个到底层存储的非标准接口，这个底层存储已针对对象语义和其他特性（例如对磁盘提交的异步通知）调优。今天，B-tree 文件系统（BTRFS）可以被用于存储节点，它已经实现了部分必要功能（例如嵌入式完整性）。

因为 Ceph 客户实现 CRUSH，而且对磁盘上的文件映射块一无所知，下面的存储设备就能安全地管理对象到块的映射。这允许存储节点数据（当发现一个设备出现故障时）。分配故障恢复也允许存储系统扩展，因为故障检测和恢复跨生态系统分配。Ceph 称其为 RADOS（见 图 3 ）。

如果文件系统的动态和自适应特性不够，Ceph 还执行一些用户可视的有趣功能。用户可以创建快照，例如，在 Ceph 的任何子目录上（包括所有内容）。文件和容量计算可以在子目录级别上执行，它报告一个给定子目录（以及其包含的内容）的存储大小和文件数量。

虽然 Ceph 现在被集成在主线 Linux 内核中，但只是标识为实验性的。在这种状态下的文件系统对测试是有用的，但是对生产环境没有做好准备。但是考虑到 Ceph 加入到 Linux 内核的行列，还有其创建人想继续研发的动机，不久之后它应该就能用于解决您的海量存储需要了。

云计算分布式存储是用ceph还是hadoop？

【美】CraigWalls（沃尔斯）著

也可能是分布式块存储。在超融合场景下，Ceph架构及其特点

清理机器上的ceph相关配置

Ceph

Ceph是一个统一的分布式存储系统，设计初衷是提供较好的性能、可靠性和可扩展性。

Ceph项目最早起源于Sage就读博士期间的工作（最早的成果于2004年发表），并随后贡献给开源社区。在经过了数年的发展之后，目前已得到众多云计算厂商的支持并被广泛应用。RedHat及OpenStack都可与Ceph整合以支持虚拟机镜像的后端存储。

高性能

a.摒弃了传统的集中式存储元数据寻址的方案，采用CRUSH算法，数据分布均衡，并行度高。

b.考虑了容灾域的隔离，能够实现各类负载的副本放置规则，例如跨机房、机架感知等。

c.能够支持上千个存储节点的规模，支持TB到PB级的数据。

a.副本数可以灵活控制。

b.支持故障域分隔，数据强一致性。

c.多种故障场景自动进行修复自愈。

d.没有单点故障，自动管理。

高可扩展性

a.去中心化。

b.扩展灵活。

特性丰富

a.支持三种存储接口：块存储、文件存储、对象存储。

b.支持自定义接口，支持多种语言驱动。

Hadoop及其特点

Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统（HadoopDistributedFileSystem），简称HDFS。

HDFS有高容错性的特点，并且设计用来部署在低廉的（low-cost）硬件上；而且它提供高吞吐量（highthroughput）来访问应用程序的数据，适合那些有着超大数据集（largedataset）的应用程序。HDFS放宽了（relax）POSIX的要求，可以以流的形式访问（streamingaccess）文件系统中的数据。Hadoop的框架最核心的设计就是：HDFS和MapReduce。HDFS为海量的数据提供了存储，而MapReduce则为海量的数据提供了计算。

hadoop和云计算是两回事，HADOOP开发JAVA，次选C/C++或者Python云计算就复杂了，不同的应用又不同额选择。很少有一种云产品只用一种开发语言解决所有问题的语言只是工具，关键是要学会在不同的应用场景下，如何正确选择合适的工具。云产品的框架有很多，比如OpenStack是用Python写的，Hadoop是用Ja写的。

HADOOP在云计算产品中只是一个底层框架，适合做云盘、分布式计算等底层业务。中间层和上层用什么语言开发取决产品的特性和技术人员的技术特点。

分布式储能技术优势是什么？

本书共分16章，全面涵盖了SpringCloud构建微服务相关的知识点。第1、2章详细介绍了微服务架构和SpringCloud。第3、4章讲解了用SpringCloud构建微服务的准备工作。第5～12章以案例为切入点，讲解了SpringCloud构建微服务的基础组件，包括Eureka、Ribbon、Feign、Hystrix、Zuul、Config、Sleuth、Admint等组件。第13～15章讲述了使用SpringCloudOAuth2来保护微服务系统的相关知识。第16章用一个综合案例，全面讲解了如何使用SpringCloud构建微服务，可以作为实际开发的样例工程。

分布式存储，无疑是云计算时代最受关注的一门技术。

比如用VMWARE创建虚拟机，可以在一台物理主机上模拟出各种硬件，作系统，形成各种“新主机”。

到底什么是分布式存储？

简单来说，人多力量大，利用多个存储构建存储池，满足互联网时代越来越多的存储需求。

互联网行业的发展，数据成指数级增长，人们对存储的需求越来越大，采用集中式的存储成为数据中心系统的瓶颈，不能满足大规模存储应用的需要。

受益于技术的发展和成熟，与标准的分布式存储开始出现，分布式存储开始被广泛的应用起来。

分布式存储就是将数据分散存储到多个存储上，并将这些分散的存储资源构成一个虚拟的存储设备，实际上数据分散的存储在企业的各个角落。分布式存储的好处是提高了系统的可靠性、可用性和存取效率，还易于扩展。

随着存储需求的逐渐增多，为了提升拉货的效率，我们就得不断的对卡车进行升级，变成更大型的货车，才能满足需求，这种扩展就相当于Scale up（纵向扩展）方式。

Scale up的优势是扩展简单，成本增长较慢，但是扩展能力有限，很难满足大容量存储的需求。

于是随着业务量的持续增长，扩展单机能力已经不能解决当前的问题，需要Scale-out，这也就是分布式存储系统。

分布式存储就像我们的拉货的货车，改用一节一节连接起来的火车拉货，当不能满足存储需求的时候，我们只需要添加一节一节的车厢就能满足需求了。

分布式系统的出现是让企业客户可以用普通的完成单个计算机无法完成的计算、存储任务。让企业用户可以利用更多的普通机器，处理更多的数据需求。

我们来汇总看下分布式存储额优势：

1、易于扩展

得益于合理的分布式架构，分布式存储可预估并且弹性扩展计算、存储容量和性能。

一个具有高性能的分布式存储通常能够高效地管理读缓存和写缓存，并且支持自动的分级存储。

3、支持分级存储

由于通过网络进行松耦合链接，分布式存储允许高速存储和低速存储分开部署，或者任意比例混布。

4、多副本一致性

与传统的存储架构使用RAID模式来保证数据的可靠性不同，分布式存储采用了多副本备份机制，最小化对业务的影响。

5、世界潮流，浩浩荡荡；顺之者昌，逆之者亡，顺应 历史 的潮流与趋势的选择一般都是明智的。存储系统标准化

随着分布式存储的发展，存储行业的标准化进程也不断推进，分布式存储优先采用行业标准接口（SMI-S或OpenStackCinder）进行存储接入，用户可以实现跨不同品牌、介质地实现容灾，从侧面降低了存储采购和管理成本。

▉ 总结

超融合产品和分布式文件系统的区别是什么？

2）无法高效存储大量小文件

超融合和分布式文件系统，其实两者无论在应用场景，还是在架构设计，都不在同一个层次上。

首先，超融合的出现是为了提高效率、降低运营成本。推动客户选择超融合的主要原因是：

- 敏捷性：在数据中心内具有公共云速度、效率和经济性。

- 可扩展性：从小规模开始，可轻松纵向或横向扩展，同时保持性能水平。

- 简单性：用软件驱动的自动化和生命周期管理来简化运营。

超融合系统不仅仅具备计算、网络、存储和虚拟化等资源和技术，而且还包括缓存加速、重复数据删除、在线数据压缩、备份软件、快照技术等元素，而多节点可以通过网络聚合起来，实现模块化的无缝横向扩展（scale-out），形成统一的资源池。超融合基础架构还提供了具有高效可扩展性的虚拟化就绪环境。此外，由于简化了采购和部署并降低了管理成本和复杂性，它还可能实现资本和运营支出的减少。

通常超融合系统采用分布式存储架构，通过增加节点的方式横向扩容，但是不一定是分布式文件系统，比如杉岩的超融合一体机。

而分布式文件系统，通常也通过增加节点的方式横向扩容，提供分布式块存储、分布式文件存储、分布式对象存储等存储服务。但分布式文件系统与超融合并不是同一个层次上的安全性和隐私保护：随着数据隐私和安全问题的日益突出，未来的分布式存储将更加注重数据的安全性和隐私保护。例如采用加密存储技术、访问控制、身份验证等手段，保护数据的安全性和隐私。东西。

计算一般是指虚拟化，存储一般是指分布式存储，

网络一般是指SDN。分布式存储不一定是分布式文件系统，

“用户看到的”一般是指分布式块存储——

即为每个计算单位（虚2、高性能拟机）

提供虚拟硬盘（块设备）的分布式存储。

当客户的IT预算有限，IT能力有限时，

会倾向于超融合，因为买一套东西解决了所有的问题。

然而，当客户的IT环境变大变复杂的时候，

超融合的服务要求就体现出来了，

例如神州云科在拓展超融合业务时，

采用首先提供用户测试机的方式，

一方面帮助用户了解在不同的需求和应用环境下，

需要怎样的方案配合，才能实现用户利益的化。

另一方面，也通过实际使用场景的测试，

神州云科的售前工程师与用户一起，

共同设计一个更智能、更友好，更具扩展性，

性价比更高的超融合方案。为此，

神州云科提出了服务"三个"的承诺，

"技术能力、响应时间、服务态度"，

等多个超融合应用领域

区别就是，一个是叫超融合产品

一个是叫分布式文件系统

名字已经别很多了，没有一个字是相同的

媒体存取方式有哪三种

数据存储在HDFS：数据存储和计算不分离，集群成本较高，计算性能高，但存储量受磁盘空间限制，删除集群前需将数据导出保存，建议在数云计算的开发语言多样据计算频繁场景下使用。

块存储、文件存储、对象存储。

这三者的本质别是使用数据的“用户”不同：块存储的用户是可以读写块设备的软件系统，例如传统的文件系统、数据库，文件存储的用户是自然人，对象存储的用户1）处理超大文件则是其它计算机软件。

这三个概念都是分布式存储中的概念，由不同的网络存储协议实现。所谓分布式存储，就是底层的存储系统，因为要存放的数据非常多，单一所能连接的物理介质是有限的，提供的IO性能也是有限的，所以通过多台协同工作，每台连接若干物理介质，一起为多个系统提供存储服务。为了满足不同的访问需求，往往一个分布式存储系统，可以同时提供文件存储、块存储和对象存储这三种形式的服务。