论文标题：Secure Federated Evolutionary Optimization—A Survey

期刊：Engineering

DOI：https://doi.org/10.1016/j.eng.2023.10.006

微信链接：点击此处阅读微信文章

欧洲科学院院士、西湖大学教授金耀初团队联合匈牙利罗兰大学等的研究人员，在中国工程院院刊《Engineering》发表题为“Secure Federated Evolutionary Optimization—A Survey”（安全联邦学习进化优化算法综述）的综述论文。文章聚焦安全联邦学习进化优化算法领域，全面梳理了相关研究现状，为这一新兴领域的发展提供了重要参考。

随着边缘设备和云计算的发展，在保护隐私和安全的前提下完成机器学习和优化任务备受关注。联邦学习作为一种保护隐私的分布式机器学习方法，近年来受到广泛关注。然而，优化问题中的数据隐私保护问题却较少受到关注。为此，文章重点研究数据驱动的进化优化下的隐私保护问题。

文章首先明确了机器学习中的安全和隐私问题定义，全面回顾了联邦学习方法和加密隐私保护技术。联邦学习通过共享本地模型参数或梯度训练全局模型，但仍面临恶意攻击的安全威胁，如中毒攻击、推理攻击等。为应对这些威胁，通常采用安全计算技术以及加密和差分隐私等保护隐私的计算技术。

图1. 数据隐私保护方案。

文章深入讨论了隐私保护优化这一新兴领域，涵盖分布式优化、进化优化以及贝叶斯优化。在隐私保护的进化优化中，根据优化过程是否受保护分为两类：一类是只有适应度计算安全；另一类是确保整个优化过程安全，但不同优化算法和问题需要不同加密协议。在隐私保护的贝叶斯优化方面，主要通过基于差分隐私、转换和同态加密等方法保护训练数据和查询点，但现有方法存在模型构建误差等问题。

在联邦数据驱动的进化优化部分，文章指出虽然该领域研究较少，但前景广阔。从联邦学习借鉴思想保护隐私时，要注意两者框架的区别。目前研究主要围绕优化采集函数、更新训练数据、处理拜占庭客户端以及考虑公平性等方面展开。

此外，文章还从模型管理策略、优化中的特殊算子、联邦采集函数的优化以及特殊防御方案等方面，提出了安全联邦优化的附加要求。同时，分析了不同技术策略在优化中的局限性，如差分隐私影响收敛性能、同态加密计算成本高、安全 MPC 无法有效应对部分威胁等。

文章总结了联邦优化中有前景的研究方向，包括处理本地优化问题中的异质性、设计更有效的隐私保护策略、平衡隐私与安全效率准确性、研究公平性、设计新测试基准问题和性能指标以及探索异步填充采样等。

文章为联邦学习和联邦优化之间的关联提供了新见解，有助于提升学术界对安全联邦优化的研究兴趣，推动该领域进一步发展。

文章信息：

Secure Federated Evolutionary Optimization—A Survey

安全联邦学习进化优化算法综述

作者：

刘奇奇, 严宇萍, 金耀初*, 王曦璐, Peter Ligeti, 喻果, 颜学明

引用：

Qiqi Liu, Yuping Yan, Yaochu Jin, Xilu Wang, Peter Ligeti, Guo Yu, Xueming Yan. Secure Federated Evolutionary Optimization—A Survey. Engineering, 2024, 34(3): 23–42

开放获取论文：

https://doi.org/10.1016/j.eng.2023.10.006

更多内容

芯片电路设计新进展：布局优化精确算法助力成本降低

南洋理工大学团队创新强化学习算法，为自动驾驶安全决策 “保驾护航”

南京水科院水文模型新进展：机器学习算法在无测站径流模拟中的应用

人工智能的发展：实现数据集、AI模型、建模软件和硬件体系逻辑结构的一致性？

Engineering征稿启事：人工智能赋能工程科技