Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

[svd_agg]联邦学习中的安全聚合方案设计及实现 #976

Open
Candicepan opened this issue Oct 25, 2023 · 1 comment
Open

[svd_agg]联邦学习中的安全聚合方案设计及实现 #976

Candicepan opened this issue Oct 25, 2023 · 1 comment
Assignees
Labels
challenge SecretFlow Open Source Contribution Plan OSCP SecretFlow Open Source Contribution Plan

Comments

@Candicepan
Copy link
Contributor

此 ISSUE 为 隐语开源共建计划(SecretFlow Open Source Contribution Plan,简称 SF OSCP)第二期 #879 特别任务的子任务。

也欢迎开发者点击这里,选择你感兴趣的任务参与隐语社区共建,热烈欢迎社区开发者参与共建~

设计思路

by BlingYYa

  • 服务方初始化全局模型广播给各个参与方后,利用奇异值分解(SVD)对其每一层进行矩阵分解;
  • 参与方进行本地训练,在上传参数前利用SVD对本地参数逐层分解并上传,降低上传参数矩阵的维度;
  • 服务方利用自身分解的矩阵对参与方上传的矩阵进行重构并聚合,更新全局模型;
  • 不断重复上述步骤直至全局模型收敛。

任务介绍

  • 任务名称:【特别任务】联邦学习中的安全聚合方案设计以及实现
  • 技术方向:Federated Learning
  • 任务难度:挑战🌟🌟🌟
  • 说明:本任务不参与🌟累计哈~

详细要求

安全聚合是解决联邦学习中梯度泄露问题的有效手段。然而,现有安全聚合方案仍可能存在“参与方掉线不容忍”、“聚合行为不可控”、“共谋推断不可抗”和“系统效能不实际”等问题。希望同学们能够在这个开放问题下,设计出安全,可行,巧妙的算法来解决联邦学习聚合中遇到的安全问题,效率问题,掉线问题等等。解决方法不限,可以使用 TEE,同态,多方安全计算等各种技术作为辅助。

  • 安全性: 尽量少 reveal,设计出的聚合算法没有算法层面的安全问题
  • 功能性:可以将实现落到 SecretFlow 的 aggregator 中,可以无缝替换其他的聚合方法。
  • 收敛性:聚合结果需要保证正确性
  • 代码规范:Python 代码需要使用 black+isort 进行格式化(流水线包含代码规范检查卡点)
  • 提交要求:关联该 issue 并提交代码,代码提交细节请与蚂蚁导师进行沟通!!

能力要求

  • 网空项目——安全聚合项目参与同学

操作说明

@Candicepan Candicepan added OSCP SecretFlow Open Source Contribution Plan challenge SecretFlow Open Source Contribution Plan labels Oct 25, 2023
@BlingYYa
Copy link

BlingYYa Give it to me

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
challenge SecretFlow Open Source Contribution Plan OSCP SecretFlow Open Source Contribution Plan
Projects
Status: In Review
Development

Successfully merging a pull request may close this issue.

2 participants