金融行业标准网
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211060911.4 (22)申请日 2022.08.31 (71)申请人 中国银行股份有限公司 地址 100818 北京市西城区复兴门内大街1 号 (72)发明人 李宜倬  (74)专利代理 机构 北京三友知识产权代理有限 公司 11127 专利代理师 王曦 张祥意 (51)Int.Cl. G06N 20/20(2019.01) G06Q 40/02(2012.01) (54)发明名称 基于FedMGDA+和联邦学习的模型训练方法 及装置 (57)摘要 本发明公开了一种基于FedMGDA+和联邦学 习的模型训练方法及装置, 涉及人工智能技术领 域, 该方法包括: 将中心节点模型的模型参数发 送到各银行节 点, 以使各银行节 点先根据中心节 点模型的模型参数对各自的本地模型进行参数 更新, 然后基于本地数据对各自的本地模型进行 E轮局部模型迭代训练; 获取各银行节点在完成 局部模型迭代训练后发送的各自的本地模型的 模型参数, 根据各银行节点的本地模 型的模型参 数采用联邦多目标优化FedMGDA+确定优化模型 参数, 并根据所述优化模型参数对 所述中心节点 模型进行参数更新。 本发明提高了模 型训练的效 果。 权利要求书2页 说明书7页 附图3页 CN 115392490 A 2022.11.25 CN 115392490 A 1.一种基于F edMGDA+和联邦学习的模型训练方法, 其特 征在于, 包括: 在进行联邦学习的T轮全局模型迭代训练中的任意一轮全局模型迭代训练时: 将中心 节点模型的模型参数发送到各银行节点, 以使各银行节点先根据中心节点模型的模型参数 对各自的本地模型进行参数更新, 然后基于本地数据对各自的本地模型进行E轮局部模型 迭代训练; 获取各银行节点在完成局部模型迭代训练后发送的各自的本地模型的模型参 数, 根据各银行节 点的本地模 型的模型参数采用联邦多目标优化FedM GDA+确定优化模 型参 数, 并根据所述优化模型参数对所述中心 节点模型进行参数 更新; 在完成所述T轮全局模型迭代训练后, 将此时的所述中心节点模型确定为训练出的模 型。 2.根据权利 要求1所述的基于FedMGDA+和联邦学习的模型训练方法, 其特征在于, 还包 括: 在进行所述T轮全局模型迭代训练之前, 对所述中心 节点模型的模型参数进行初始化。 3.根据权利 要求1所述的基于FedMGDA+和联邦学习的模型训练方法, 其特征在于, 还包 括: 在完成所述T轮全局模型迭代训练后, 提取 此时的所述中心 节点模型的模型参数; 将提取出的模型参数发送到各银行节点, 以使各银行节点根据中心节点模型的模型参 数对各自的本地模型进行参数 更新。 4.根据权利要求1所述的基于FedMGDA +和联邦学习的模型训练方法, 其特征在于, T和E 均为大于1的整数。 5.一种基于F edMGDA+和联邦学习的模型训练装置, 其特 征在于, 包括: 模型训练单元, 用于在进行联邦学习的T轮全局模型迭代训练中的任意一轮全局模型 迭代训练时: 将 中心节点模型 的模型参数发送到各银行节点, 以使各银行节点先根据中心 节点模型的模型参数对各自的本地模型进 行参数更新, 然后基于本地数据对各自的本地模 型进行E轮局部模型迭代训练; 获取各银行节点在完成局部模型迭代训练后发送的各自的 本地模型的模型参数, 根据各银行节点的本地模型的模型参数采用联邦多目标优化 FedMGDA+确定优化模型参数, 并根据所述优化模型参数对所述中心节点模型进行参数更 新; 模型确定单元, 用于在完成所述T轮全局模型迭代训练后, 将此时的所述中心节点模型 确定为训练出的模型, 其中, T和E均为大于1的整数。 6.根据权利 要求5所述的基于FedMGDA+和联邦学习的模型训练装置, 其特征在于, 还包 括: 参数初始化单元, 用于在进行所述T轮全局模型迭代训练之前, 对所述中心节点模型的 模型参数进行初始化。 7.根据权利 要求5所述的基于FedMGDA+和联邦学习的模型训练装置, 其特征在于, 还包 括: 参数提取单元, 用于在完成所述T轮全局模型迭代训练后, 提取此时的所述中心节点模 型的模型参数; 模型更新单元, 用于将提取出的模型参数发送到各银行节点, 以使各银行节点根据中 心节点模型的模型参数对各自的本地模型进行参数 更新。权 利 要 求 书 1/2 页 2 CN 115392490 A 28.一种计算机设备, 包括存储器、 处理器及存储在存储器上并可在处理器上运行的计 算机程序, 其特征在于, 所述处理器执行所述计算机程序时实现权利要求1至4任意一项所 述方法的步骤。 9.一种计算机可读存储介质, 其上存储有计算机程序/指令, 其特征在于, 该计算机程 序/指令被处 理器执行时实现权利要求1至4任意 一项所述方法的步骤。 10.一种计算机程序产品, 包括计算机程序/指令, 其特征在于, 该计算机程序/指令被 处理器执行时实现权利要求1至4任意 一项所述方法的步骤。权 利 要 求 书 2/2 页 3 CN 115392490 A 3

PDF文档 专利 基于FedMGDA+和联邦学习的模型训练方法及装置

文档预览
中文文档 13 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共13页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 基于FedMGDA+和联邦学习的模型训练方法及装置 第 1 页 专利 基于FedMGDA+和联邦学习的模型训练方法及装置 第 2 页 专利 基于FedMGDA+和联邦学习的模型训练方法及装置 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-03-03 12:15:39上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。