集群资源共享的三种方式

本文探讨了分布式系统中资源共享的三种方式:不共享结构(如Hadoop)、共享磁盘结构(如Oracle RAC)和共享内存结构。不共享结构成本低但存在数据交换开销;共享磁盘结构保持数据一致性但受限于I/O瓶颈;共享内存结构提供快速访问速度,但面临内存管理和缓存一致性挑战。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

     最近被问到分布式系统的共享方式,结合之前学过的黄铠老师的书稍微说几句。
     各种分布式系统,不管是Hadoop,SMP,MPP还是其他巴拉巴拉的东西,共享资源的方式不外乎以下三种,见下图。该图最早来自黄铠老师的论文(K.Hwang,Z.Xu, Support of clustering and availability),我重新画了下,各部分含义如下:P/C处理器和缓存,M内存,D磁盘,NIC网卡,MIO内存-IO桥。当然图只是一个示意,实际构建系统的时候可能有变化。
     a)不共享结构。大多数集群采用这种结构,节点间通过以太网等局域网方式简单连接。最常见的例子就是Hadoop。这种结构最大的优势就是扩容的成本非常低,只需要简单增加机器并做网络连接即可,集群的可用性也非常高。缺点也非常明显,所谓的不共享不代表不交换数据,而一旦需要交换数据,计算速度必然受影响,因此在同等节点配置下,这种集群必然是最慢的。常用Hadoop的哥们估计早就被shuffle搞得仙仙欲死了,Hadoop M/R最被诟病的一点就是shuffle的巨大开销了(外加shuffle前数据还要被写回HDFS,悲剧)。之后
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值