5、并行与分布式系统：云计算的基石

并行与分布式系统：云计算的基石

1. 云计算与并行分布式计算的关联

云计算基于自第一台电子计算机用于解决计算难题以来积累的大量理念和经验。它与并行和分布式计算紧密相连。云应用采用客户端 - 服务器模式，用户机器上运行相对简单的瘦客户端软件，而计算任务在云端执行。许多云应用是数据密集型的，会同时运行多个实例。例如基于 Web 的事务处理系统，这类应用会运行服务的多个实例，并且要求消息可靠且按顺序传递。

通信协议在分布式系统中至关重要，它支持分布式进程的协调，能通过可能丢失消息、传递重复或失真消息的不可靠通信通道传输信息。为确保消息可靠且按序传递，协议会为每条消息打上序列号，接收方则用自己的序列号发送确认消息以证实收到。由于发送方和接收方的时钟可能不同步，这些序列号就充当了逻辑时钟。当消息丢失或延迟时，会使用超时机制请求重传。

对于长时间运行的云计算任务，一致切割和分布式快照的概念是检查点 - 重启过程的核心。很多云计算任务数据量大且会在云端多台计算机上长时间运行。为应对系统故障，会定期设置检查点，故障发生时，计算从最后一个检查点重新开始，而非从头开始。

云计算的许多功能依赖于监控器提供的信息，监控器是收集各个系统状态信息的组件。例如云资源管理的控制器需要准确的状态信息，安全和可靠性的实现也依赖于专业监控器提供的信息。应用控制器的一个关键功能是协调多个实例。

2. 并行计算

自然界表明，群体并行工作是实现共同目标的高效方式。在计算机时代早期，人们就提出让单个系统协同工作以解决复杂应用的想法。

并行计算通过将大问题分解为小问题并同时求解来解决大规模问题。多年来，它被视为解决科学、工程和企业计算等领域数据