面向隐私计算的联邦学习激励机制与效率优化研究
大致是了解了申请项目的全过程,写一份好的申请书,选择合适的课题真的十分重要
科研项目进展
希望能拿到国家级项目
–
好消息是拿国家级了--坏消息是EI即以上一篇论文+专利,未来有学弟看到这篇文章,申请大创时可以考虑联邦学习这方面的内容,我们研究的是联邦学习激励机制与效率优化方案
项目申请书是我和一个队友写的,后来决定了搞研究不搞应用了,这样比较简单拿国家级项目,这样我们同时有了国家级项目经历和EI即以上论文,再参加个数模拿个国二,研究生复试是没啥问题了。
这里给各位一个申请参考吧
最开始我对联邦学习甚至时机器学习都一窍不通,后来就是各种查名词解释,了解了容器,开源平台,机器学习的过程,再后来直接上京东买了系统介绍联邦学习的书,了解了联邦学习的关键点,查各种综述论文,确定了两个关键点,敲定为项目题目,各位最好选择一项新技术的两个方面进行组合研究。 再然后写项目的研究方案,研究意义等等,各位要有系统的认知,初期不必扣细节
1. 主机+树莓派, 部署kubeedge
前提:需要了解docker, k8s
Cloud core部署在 虚拟机 Linux
Edge core部署在 树莓派
云边协同联邦学习
我看了个例子,云端下放算法程序,摄像头本地处理后反馈云端,云端更新参数后下放迭代后程序,让我们编应用我们是不是可以朝这种方向去搞
思路1:直接使用kubeedge的 sedna (难度较低,有例子)
https://gitee.com/mirrors_kubeedge/sedna/blob/main/examples/federated_learning/yolov5_coco128_mistnet/README.md
上述例子实现了合作训练yolo5。例子容易跑,但自己程序可能相对难写。
借用自带数据库,可以直接处理不同节点的数据参数?分散处理不同容器中工作的数据,容器中运行程序,可能是一个容器对应一块存储空间,信息互不干扰??实现联邦机器学习?
思路2:在kubeedge 平台部署fate等联邦学习框架,实现联邦学习。
可能更好编程
在平台上编写自主联邦学习应用
不用kubeege 直接用Kubefate 快速部署联邦学习
Object Detection Experiment
Assume that there are two edge nodes and a cloud node. Data on the edge nodes cannot be migrated to the cloud due to privacy issues.
Base on this scenario, we will demonstrate the mnist example.
Prepare Nodes
CLOUD_NODE="cloud-node-name"//定义云节点名称
EDGE1_NODE="edge1-node-name"//定义边缘计算节点,提供数据的节点,协同机器学习的节点,注意理解如何分散处理数据的
EDGE2_NODE="edge2-node-name"
Install Sedna
Follow the Sedna installation document to install Sedna.
安装Sedna,是不是类似K8S那样 的平台中安装这样一个数据库,用来存边缘节点处理后的数据
云节点中的容器运行的是不是迭代学习之类的程序?
边缘节点进行数据训练,云端节点形成全局认知,云计算平台实现第二轮操作的处理,以及后面迭代的处理
这种资源调度便是通过借助K8S平台处理,节点间的沟通命令传输等等
Prepare Dataset
Download dataset //下载数据集
Create data interface for EDGE1_NODE
.
mkdir -p /data/1
cd /data/1
wget https://github.com/ultralytics/yolov5/releases/download/v1.0/coco128.zip
unzip coco128.zip -d COCO //还好学了Linux知道是个啥,从网站下载数据集便于训练,然后解压
Create data interface for EDGE2_NODE
.
mkdir -p /data/2
cd /data/2
wget https://github.com/ultralytics/yolov5/releases/download/v1.0/coco128.zip
unzip coco128.zip -d COCO//边缘节点的两个不同的数据集
Prepare Images //准备图片干嘛??
https://www.cnblogs.com/xueqiuqiu/articles/13716528.html
分布式学习的资料
https://zhuanlan.zhihu.com/p/449027699
知乎关于联邦学习算法的介绍
https://toutiao.io/posts/6csvlfj/preview
Sedna应用场景 云边协同
边云协同增量学习提升模型精度
下面为具体搭载例子分析
本周任务–跑起来例子
项目例子–需要提升重拾英文了
https://toutiao.io/posts/6csvlfj/preview
This example uses these images:
- aggregation worker:
kubeedge/sedna-example-federated-learning-mistnet-yolo-aggregator:v0.4.0
// - train worker:
kubeedge/sedna-example-federated-learning-mistnet-yolo-client:v0.4.0
These images are generated by the script build_images.sh.
Create Federated Learning Job
Create Dataset
create dataset for $EDGE1_NODE
and $EDGE2_NODE
kubectl create -f - <<EOF
apiVersion: sedna.io/v1alpha1
kind: Dataset
metadata:name: "coco-dataset-1"
spec:url: "/data/1/COCO"format: "dir"nodeName: $EDGE1_NODE
EOF
kubectl create -f - <<EOF
apiVersion: sedna.io/v1alpha1
kind: Dataset
metadata:name: "coco-dataset-2"
spec:url: "/data/2/COCO"format: "dir"nodeName: $EDGE2_NODE
EOF
Create Model
create the directory /model
and /pretrained
in $EDGE1_NODE
and $EDGE2_NODE
.
mkdir -p /model
mkdir -p /pretrained
create the directory /model
and /pretrained
in the host of $CLOUD_NODE
(download links here)
# on the cloud side
mkdir -p /model
mkdir -p /pretrained
cd /pretrained
wget https://kubeedge.obs.cn-north-1.myhuaweicloud.com/examples/yolov5_coco128_mistnet/yolov5.pth
create model
kubectl create -f - <<EOF
apiVersion: sedna.io/v1alpha1
kind: Model
metadata:name: "yolo-v5-model"
spec:url: "/model/yolov5.pth"format: "pth"
EOFkubectl create -f - <<EOF
apiVersion: sedna.io/v1alpha1
kind: Model
metadata:name: "yolo-v5-pretrained-model"
spec:url: "/pretrained/yolov5.pth"format: "pth"
EOF
Create a secret with your S3 user credential. (Optional)
kubectl create -f - <<EOF
apiVersion: v1
kind: Secret
metadata:name: mysecretannotations:s3-endpoint: s3.amazonaws.com s3-usehttps: "1"
stringData: ACCESS_KEY_ID: XXXXSECRET_ACCESS_KEY: XXXXXXXX
EOF
Start Federated Learning Job
kubectl create -f - <<EOF
apiVersion: sedna.io/v1alpha1
kind: FederatedLearningJob
metadata:name: yolo-v5
spec:pretrainedModel: # optionname: "yolo-v5-pretrained-model"transmitter: # optionws: { } # option, by defaults3: # optional, but at least oneaggDataPath: "s3://sedna/fl/aggregation_data"credentialName: mysecretaggregationWorker:model:name: "yolo-v5-model"template:spec:nodeName: $CLOUD_NODEcontainers:- image: kubeedge/sedna-example-federated-learning-mistnet-yolo-aggregator:v0.4.0name: agg-workerimagePullPolicy: IfNotPresentenv: # user defined environments- name: "cut_layer"value: "4"- name: "epsilon"value: "100"- name: "aggregation_algorithm"value: "mistnet"- name: "batch_size"value: "32"- name: "epochs"value: "100"resources: # user defined resourceslimits:memory: 8GitrainingWorkers:- dataset:name: "coco-dataset-1"template:spec:nodeName: $EDGE1_NODEcontainers:- image: kubeedge/sedna-example-federated-learning-mistnet-yolo-client:v0.4.0name: train-workerimagePullPolicy: IfNotPresentargs: [ "-i", "1" ]env: # user defined environments- name: "cut_layer"value: "4"- name: "epsilon"value: "100"- name: "aggregation_algorithm"value: "mistnet"- name: "batch_size"value: "32"- name: "learning_rate"value: "0.001"- name: "epochs"value: "1"resources: # user defined resourceslimits:memory: 2Gi- dataset:name: "coco-dataset-2"template:spec:nodeName: $EDGE2_NODEcontainers:- image: kubeedge/sedna-example-federated-learning-mistnet-yolo-client:v0.4.0name: train-workerimagePullPolicy: IfNotPresentargs: [ "-i", "2" ]env: # user defined environments- name: "cut_layer"value: "4"- name: "epsilon"value: "100"- name: "aggregation_algorithm"value: "mistnet"- name: "batch_size"value: "32"- name: "learning_rate"value: "0.001"- name: "epochs"value: "1"resources: # user defined resourceslimits:memory: 2Gi
EOF
下面为两个例子
https://github.com/kubeedge/sedna/blob/main/examples/federated_learning/surface_defect_detection/README.md
https://gitee.com/mirrors_kubeedge/sedna/blob/main/examples/federated_learning/yolov5_coco128_mistnet/README.md
面向隐私计算的联邦学习激励机制与效率优化研究相关推荐
- 联邦学习激励机制设计相关论文研究问题对比
联邦学习激励机制设计相关论文研究问题对比 An Incentive Mechanism for Cross-silo Federated Learning: A Public Goods Perspe ...
- 隐私计算--25--联邦学习激励机制
一.贡献的收益 对于联邦而言,参与方持续地参与到联邦的学习进程是其长期成功的关键所在.参与方加入联邦,构建一个机器学习模型,从而对联邦作出贡献,训练出的模型可以产生收益,联邦可以与参与方们共享部分收益 ...
- 2月份隐私计算、联邦学习的市场概览
2月份隐私计算.联邦学习的市场概览 摘要:在隐私计算市场中,三股信息流如清风拂面,流转不息.采购意向,犹如花开满园,为供应商和服务提供商探明商机:招标信息,如云卷云舒,为客户了解市场动态提供重要参考: ...
- 联邦学习 — 激励机制综述
背景介绍 联邦学习通常采用参数服务器体系结构,其中客户端训练由参数服务器下发的本地模型.一个典型的联邦学习过程包含很多训练轮次.在每一轮中,客户端从参数服务器下载新的全局模型,并分别用自己的数据训练一 ...
- 【论文学习】关于联邦学习激励机制的2篇T2论文
目录 文章一 摘要截图 主要内容 文章二 摘要截图 主要内容 文章一 摘要截图 主要内容 将激励机制分为面向贡献测量.面向客户选择.面向支付分配以及面向多子问题优化四种类型 FL的难点在于异质性(no ...
- 刘洋——联邦学习技术在金融领域的研究与应用
⬆⬆⬆ 点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入! 2020 年 9 月 26 日,在由中国科协主办,清华大学计算机科学与技术系.AI TIME 论道承办的<2020 中国科 ...
- 隐私计算及密码学学习记录
隐私计算 隐私计算(Privacy compute)是指在保护数据本身不对外泄露的前提下实现数据分析计算的技术集合. 与传统数据使用方式相比,隐私计算的加密机制能够增强对于数据的保护.降低数据泄露风险 ...
- (论文分析)基于深度强化学习方法的有效边缘学习激励机制设计
论文题目:An Incentive Mechanism Design for Efficient Edge Learning by Deep Reinforcement Learning Approa ...
- 在推荐系统中,我还有隐私吗?联邦学习:你可以有
2020-11-19 15:38:41 机器之心分析师网络 作者:仵冀颖 编辑:H4O 在推荐系统无所不在的网络环境中,用户越来越强烈地意识到自己的数据是需要保密的.因此,能够实现隐私保护的推荐系统的 ...
最新文章
- Windows平台搭建-----C语言
- 中国人民大学2016考研复试基本分数线
- https://www.threatminer.org/domain.php?q=blackschickens.xyz ——域名的信誉查询站点 还可以查IP...
- Centos:mysql的安装和使用:yum方式
- java中super()_Java 泛型中 extends 和 super 的区别是什么?
- 重构智能合约(上):非确定性的幽灵
- UVA 12298——Super Poker II
- mysql的设计模式_数据库设计中使用设计模式
- [2018.11.03 T2] 执行任务
- 台式计算机硬盘的安装位置,如何在台式机机箱中安装硬盘
- 什么是分布式定时任务框架?
- 西瓜决策树-ID3算法
- Error:java: 无效的源发行版: 8
- 《正念领导力》承诺14:创造共赢
- 西电通信技术基础实验
- 卸载 nginx 彻底删除
- 舆情监控和应急处理方案,如何做好网络舆情监控?
- php 数组简写形式,php 获取美国50个州的名称、简写对应数组用法示例
- MATLAB 设置小的tick
- 51单片机定时器工作方式1、2原理详解
热门文章
- LK源码解析 9 总结
- C/C++——vector的基本操作总结
- 积分学在计算机行业的应用,浅谈积分激励在计算机项目教学中的应用.doc
- FMS4.5 (Flash media server)视频服务器安装和配置以及pomelo聊天室的调用
- 解决蓝牙鼠标和电脑连接出现卡顿的情况
- 快手视频艾特实操教学分享,什么是艾特脚本,评论区艾特引流脚本讲解!
- 【youcans 的 OpenCV 学习课】7. 空间域图像滤波
- 云服务器CPU Intel Xeon Platinum 8163(Skylake)处理器性能评测
- 科创板、香港主板、纳斯达克三地部门上市条件和要求
- 数据库规范化三个范式应用实例