Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

[ugssa_agg]联邦学习中的安全聚合方案设计及实现 #901

Open
Candicepan opened this issue Sep 22, 2023 · 2 comments
Open

[ugssa_agg]联邦学习中的安全聚合方案设计及实现 #901

Candicepan opened this issue Sep 22, 2023 · 2 comments
Assignees
Labels
challenge SecretFlow Open Source Contribution Plan OSCP SecretFlow Open Source Contribution Plan

Comments

@Candicepan
Copy link
Contributor

此 ISSUE 为 隐语开源共建计划(SecretFlow Open Source Contribution Plan,简称 SF OSCP)第二期 #879 特别任务的子任务。

也欢迎开发者点击这里,选择你感兴趣的任务参与隐语社区共建,热烈欢迎社区开发者参与共建~

设计思路

by Echotoken

  • 参与方生成梯度后,在本地利用无偏采样技术提取无偏摘要梯度,该摘要梯度保证不泄露真实梯度以及聚合结果的准确性。
  • 具体来讲,通过采样和变换操作将真实梯度值变换为“随机值”,这些“随机值”的聚合结果为参与方真实聚合梯度的无偏估计。
  • 将算法封装进隐语开发环境中,置于隐语目录secretflow/secretflow/security/aggregation/ugssa_aggregator.py 下。

任务介绍

  • 任务名称:【特别任务】联邦学习中的安全聚合方案设计以及实现
  • 技术方向:Federated Learning
  • 任务难度:挑战🌟🌟🌟
  • 说明:本任务不参与🌟累计哈~

详细要求

安全聚合是解决联邦学习中梯度泄露问题的有效手段。然而,现有安全聚合方案仍可能存在“参与方掉线不容忍”、“聚合行为不可控”、“共谋推断不可抗”和“系统效能不实际”等问题。希望同学们能够在这个开放问题下,设计出安全,可行,巧妙的算法来解决联邦学习聚合中遇到的安全问题,效率问题,掉线问题等等。解决方法不限,可以使用 TEE,同态,多方安全计算等各种技术作为辅助。

  • 安全性: 尽量少 reveal,设计出的聚合算法没有算法层面的安全问题
  • 功能性:可以将实现落到 SecretFlow 的 aggregator 中,可以无缝替换其他的聚合方法。
  • 收敛性:聚合结果需要保证正确性
  • 代码规范:Python 代码需要使用 black+isort 进行格式化(流水线包含代码规范检查卡点)
  • 提交要求:关联该 issue 并提交代码,代码提交细节请与蚂蚁导师进行沟通!!

能力要求

  • 网空项目——安全聚合项目参与同学

操作说明

@Candicepan Candicepan added enhancement New feature or request OSCP SecretFlow Open Source Contribution Plan labels Sep 22, 2023
@Echotoken
Copy link

Echotoken give it to me

@Echotoken Echotoken removed their assignment Sep 24, 2023
@Echotoken
Copy link

Sorry, fat-finger error, reassign it to me plz.

@Candicepan Candicepan added challenge SecretFlow Open Source Contribution Plan and removed enhancement New feature or request labels Oct 7, 2023
@Candicepan Candicepan linked a pull request Oct 24, 2023 that will close this issue
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
challenge SecretFlow Open Source Contribution Plan OSCP SecretFlow Open Source Contribution Plan
Projects
Status: In Review
Development

Successfully merging a pull request may close this issue.

2 participants