RDMA技术入门：从TCP到UDP的高效通信

"本次介绍的主题是RDMA技术，由Alex Margolin主讲，他是一名在Mellanox Technologies工作了5年的HPC软件架构师，专注于集群和超级计算机的软件设计，如MPI。他的研究领域还包括低层软件优化，并且是希伯来大学的博士候选人。Alex经常在本地大学和Mellanox的合作伙伴及客户中教授RDMA相关课程。最近，Mellanox推出了学术课程大纲，旨在探讨如何通过RDMA技术提升云基础设施的效率和可扩展性，实现存储成本的大幅降低。微软在2014年Open Networking Summit上的主题演讲中强调了RDMA在Azure云存储中的应用，展示了RDMA如何通过RoCE（RDMA over Converged Ethernet）在40GbE上启用，实现了巨大的运营成本节省。" 本文将深入讲解RDMA（Remote Direct Memory Access）技术，这是一种允许网络设备直接读写远程计算机内存的技术，无需经过操作系统内核，从而减少了通信延迟并提高了数据传输效率。 1. **可靠连接（RC）**: 类似于TCP，提供可靠的、连接导向的传输服务，确保消息的完整、有序交付。这在需要保证数据完整性的应用中非常重要，如数据库操作或分布式计算。 2. **不可靠无连接（UD）**: 类似于UDP，不保证消息的传递，采用最佳努力的方式发送消息，可以支持多播。这种模式适用于对实时性要求高但对数据丢失容忍度较高的场景，如视频流媒体。 3. **不可靠连接（UC）**: 结合了无连接和连接的特性，提供最佳努力的有序数据传输，适用于需要顺序但可以容忍偶尔丢包的应用。 RDMA的核心优势在于**内核旁路（Kernel Bypass）**和**传输卸载（Transport Offload）**。内核旁路使得网络通信绕过操作系统内核，减少了上下文切换和系统调用的开销。传输卸载则将部分协议处理工作转移到网络硬件，进一步降低了CPU利用率。 **RDMA编程APIs**：RDMA编程涉及使用特定的 verbs，这些verbs允许应用程序直接与网络接口卡（NIC）交互，执行读写、原子操作等。 **用户层协议（ULPs）**：在RDMA环境中，用户可以直接构建协议，如MPI-IO，以利用RDMA的高效性能，无需依赖传统的网络堆栈。 **In-Network Operations**：某些RDMA NICs支持在网卡内部执行某些计算操作，称为In-Network Computing，这可以减少数据在主机间传输的次数，提高性能。 通过RDMA，如RoCE的实现，云基础设施能够实现大规模扩展，并显著降低成本。例如，微软Azure利用RDMA技术改进其存储系统，通过减少网络带宽消耗和提高I/O吞吐量，极大地降低了运营成本。 总结来说，RDMA技术通过提供高效的内存访问和减少系统开销，为高性能计算、云存储和大数据分析等应用场景提供了突破性的性能提升。它改变了传统的网络通信模式，成为了现代数据中心和云计算的关键技术之一。