(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210367919.9 (22)申请日 2022.04.08 (71)申请人 浙江金乙昌科技股份有限公司 地址 314113 浙江省嘉兴 市嘉善县大云镇 嘉善大道1897号 (72)发明人 李慧博　王江舟　陈方园　陈小忠　 李文博　 (74)专利代理 机构 嘉兴嘉科嘉创专利代理事务 所(普通合伙) 33348 专利代理师 赵俊霞 (51)Int.Cl. H04L 67/10(2022.01) H04L 67/12(2022.01) H04L 41/14(2022.01) G06K 9/62(2022.01)G06F 9/445(2018.01) (54)发明名称 一种移动边 缘计算辅助多层联邦学习方法 (57)摘要 本发明提供了一种移动边缘计算辅助多层 联邦学习方法， 通过把设计多层联邦学习转化成 为利用求解器求解函数最优解的过程， 来获得高 效的联邦 学习方案。 通过将车联网设备的联邦学 习任务分发到边缘服务器及云服务器， 进一步对 通信资源与计算资源的合理分配获得多层学习 过程的最小时延。 利用该方法， 可 以让分布式的 车联网设备参与到联邦学习中， 通过移动边缘计 算服务器的强大计算能力来弥补车联网设备计 算资源有限的不足， 从而获得更加精确的机器学 习模型以及合理的通信资源、 计算资源的分配方 案， 大大减小了传统联邦学习方法的时延。 权利要求书2页 说明书5页 附图3页 CN 114745383 A 2022.07.12 CN 114745383 A 1.一种移动 边缘计算辅助的多层联邦学习方法， 其特征在于多层学习架构和低延时资 源分配方案， 包括 步骤一： 车联网设备将需要移动 边缘服务器和云服务器辅助计算的数据集卸载到可接 入的边缘计算服务器上， 同时进 行剩余数据集的训练， 训练结束后， 将训练结果参数发送给 云服务器； 步骤二： 边缘计算服务器接收到来自各个接入的设备训练数据集后， 将需要云计算服 务器辅助的数据集 发送到云服务器， 同时训练边缘服务器需要辅助的数据集； 训练结束后， 将训练结果 参数发送给云服 务器； 步骤三： 云服务器接收到需要辅助训练的数据集后， 开始训练； 训练结束后， 等待所有 分布式节点的结果都上传到 云服务器后进 行合并聚合， 并将全局训练结果参数返回给各个 分布式计算节点； 步骤四： 根据各层数据发送计算的通信参数以及计算参数， 建立系统数学模型， 计算产 生优化目标； 优化 目标为最小化各层计算结果到达云服务器的最大时延； 优化变量包括卸 载数据集大小选择， 以及卸载到边缘计算服务器的带宽 分配以及边缘计算服务器的计算资 源分配； 根据环境 参数确定约束条件； 步骤五： 将优化问题转化为二次约束二次规划(QCQP)问题形式； 引入辅助变量， 将目标 函数简化 为求解辅助变量 最小值； 步骤六： 将目标函数以及优化变量转换为矩阵表达式， 并将约束条件逐一转换成线性 矩阵表达式； 由于得到的表达式仍然为非凸问题， 我们引入新的矩阵变量并放松秩为 1的条 件， 将优化问题转 化为半正定规划问题； 步骤七： 利用YALMIP求解器， 将目标函数以及约束条件作 为输入条件， 输出包含优化变 量的矩阵结果； 将卸载比例分配、 带宽分配以及计算资源分配等优化参数从输出 的矩阵结 果中恢复； 步骤八： 将计算出的卸载比例分配、 带宽分配以及计算资源分配参数结果导入总时延 计算模型， 产生 边缘计算辅助的多层联邦学习资源分配方案 。 2.根据权利要求1所述的一种移动 边缘计算辅助的多层联邦学习方法， 其特征在于， 步 骤一中， 车联网设备利用随机梯度下降方法进行本地模型参数训练， 具体迭代过程可描述 为 其中n为本地迭代次序， Lj为本地损失函数； 根据通信参数以 及服务器计算参数设备层训练结果到达 云服务器的最 终时间， 包含在设备本地训练的时间 和训练结果上传到云端的时间。 3.根据权利要求1所述的一种移动 边缘计算辅助的多层联邦学习方法， 其特征在于， 步 骤二中， 边缘计算服务器同样利用随机梯度下降方法训练收到的来自接入设备卸载的数据 集， 得到局部模型参数， 计算最 终边缘服务器层训练结果到达 云服务器最 终时间， 包含卸载 到边缘计算服务器和云服务器的数据样本在无线网络中的传输时间和数据样本在边缘服 务器的计算时间以及训练结果上传到云服 务器的时间。 4.根据权利要求1所述的一种移动 边缘计算辅助的多层联邦学习方法， 其特征在于， 步 骤三中， 云服务器 收到需要卸 载的数据样本后进行训练， 得到最后的训练结果所需要的时 延， 其中还包含数据样本传输到边缘计算服务器的时间， 数据样本从边缘计算服务器到云权　利　要　求　书 1/2 页 2 CN 114745383 A 2服务器的时间以及数据样本在云服务器训练的时间； 最 终云服务器进 行各层训练结果的合 并与聚合 得到聚合结果向所有分布式车 联网设备广播本轮训练结果。 5.根据权利要求1所述的一种移动 边缘计算辅助的多层联邦学习方法， 其特征在于， 步 骤四中， 多层边缘计算服务器辅助联邦学习的总时延取决于各层中最后到达云服务器的时 间， 优化目标为最小化各层中最后到达云服务器的时间， 需要计算的优化变量分别为卸载 比例变量， 计算资源分配 变量， 通信带宽分配 变量。 6.根据权利要求1所述的一种移动 边缘计算辅助的多层联邦学习方法， 其特征在于， 步 骤五中， 引入辅助变量T来代 替各层训练结果到达 云服务器的时延最大值， 进一步求解优化 函数。 7.根据权利要求1所述的一种移动 边缘计算辅助的多层联邦学习方法， 其特征在于， 步 骤六中， 将优化变量转换为矩阵表达式wj， 并将所有约束条件转化为矩阵表达式； 为了将优 化问题转换为QCQP形式， 引入新的变量zj＝[wj， 1]T； 目标函数变换为 为 求解变换后的非凸问题， 定义 通过去掉Zj的秩为1的约束， 进而得到 优化目标函数变换为 8.根据权利要求1所述的一种移动 边缘计算辅助的多层联邦学习方法， 其特征在于， 步 骤七中， 利用求解器YALMIP计算得到变量Zj后， 因为 并且zj(9)＝1， 那么可以从Zj (9， i)＝zj(i)恢复出原 始优化变量。 9.根据权利要求1所述的一种移动 边缘计算辅助的多层联邦学习方法， 其特征在于， 步 骤八中， 将计算出 的卸载比例变量、 计算资源分配变量和带宽资源分配变量结果导入总时 延计算模型， 得到多层联邦学习的最小时延。权　利　要　求　书 2/2 页 3 CN 114745383 A 3