移动边缘网络中的联邦学习：原理与应用

### 移动边缘网络中的联邦学习：原理与应用 #### 1. 联邦学习概述 联邦学习（Federated Learning, FL）作为一种新兴的机器学习范式，能够在保护数据隐私的前提下，实现分布式数据的协作模型训练。在移动边缘网络（Mobile Edge Networks, MEC）中，FL的应用尤为重要，它可以充分利用边缘设备的计算和数据资源，提高模型训练的效率和隐私性。 在MEC环境下，FL的实现面临着诸多挑战，以下是一些相关的关键问题及应对思路： - **激励机制设计**： - **工人激励难题**：在大型网络中，工人的成本各不相同，且他们没有义务如实上报成本。现有的激励方案多采用单维合同，无法充分考虑网络中工人的复杂性和异质性。可以设计多维合同激励方案，以应对FL网络中多源信息不对称的问题。 - **竞争环境下的激励机制**：传统的激励机制设计通常假设联邦具有垄断地位，但实际情况中可能存在工人竞争和服务器竞争的情况。在这种情况下，需要设计基于深度学习的拍卖机制，以模拟多个模型所有者之间的竞争。 - **资源分配**： - **资源异质性考虑**：在异构移动网络中，资源分配对于确保高效的FL至关重要。需要考虑计算和通信能力、参与意愿以及本地模型训练的数据质量等不同维度的资源异质性。 - **动态系统状态下的资源优化**：大多数现有研究假设系统约束是静态的，而忽略了FL网络中工人的动态和自组织特性。因此，需要考虑在动态系统状态下进行资源优化。 - **模型压缩与可扩展性**： - **通信成本与权衡**：使用模型压缩方案降低通信成本时，往往会牺牲更高的计算成本或更低的推理精度。在资源分配中，也存在不同的权衡需要考虑。 - **可扩展模型设计**：设计可扩展的模型，使其能够根据不同的需求进行定制。可以借鉴MEC范式中的应用和方法，避免因模型压缩而导致的精度损失。 #### 2. 无人机网络中的联邦学习 随着物联网（Internet of Things, IoT）和边缘计算的发展，传统的车载自组织网络（Vehicular Ad Hoc Networks, VANETs）逐渐向车联网（Internet of Vehicles, IoV）范式演进。在IoV中，无人机（Unmanned Aerial Vehicles, UAVs）作为一种重要的空中平台，具有高机动性、灵活部署和成本效益等优势，可用于数据收集和计算卸载。 近年来，无人机即服务（Drones-as-a-Service, DaaS）行业迅速发展，独立的无人机所有者为企业和城市规划者提供按需数据收集和模型训练服务。为了构建更好的推理模型，不同的无人机公司可以通过共享数据进行协作模型训练。然而，随着数据隐私法规的日益严格，数据共享面临着挑战。因此，采用基于FL的方法可以实现隐私保护的协作机器学习。 ##### 2.1 系统模型 在系统模型中，模型所有者（client）希望从一个区域收集数据进行模型训练，例如交通预测。由于无人机的能量限制，该区域被划分为多个子区域。模型所有者发布FL任务，只有能够在规定时间和能量约束内完成任务的无人机（DaaS提供商）会响应。模型所有者为每个子区域分配最优的无人机，无人机收集传感数据后，在本地进行模型训练，仅将更新后的模型参数传输给模型所有者进行全局聚合。 该方法具有以下三个优点： - **辅助资源受限组件**：无人机的部署有助于资源受限的IoV组件完成对时间敏感的传感和模型训练任务。 - **保护数据隐私**：避免了无人机之间的数据共享，保护了无人机收集数据的隐私。 - **通信高效**：与传统的数据共享方法相比，FL只需要传输模型参数，减少了通信开销。 然而，模型所有者和无人机之间存在激励不匹配的问题。模型所有者希望选择成本最低的无人机来完成任务，以最大化利润；而无人机可能会利用信息不对称虚报类型，以获取更高的补偿。为了解决这个问题，可以采用基于合同理论的激励机制设计，通过多维合同匹配来选择最优的无人机。 ##### 2.2 系统模型与问题表述 考虑一个网络，模型所有者需要从目标传感区域的指定节点收集数据，以完成对时间敏感的任务。每个子区域选择一架无人机进行覆盖，由于无人机成本类型的信息不对称和多源异质性，模型所有者设计多维合同来选择最优的无人机。 系统模型分为两个阶段： 1. **多维合同设计**：模型所有者设计多维合同，利用自我揭示机制选择最优的无人机来覆盖