【FATE联邦学习】FATE联邦学习使用GPU、指定cuda下标
问题
FATE框架1.x支持GPU训练吗?
寻找
先看了官网,搜官网,发现还是有的。
打开第一个后,里面可以用training param指定各个client的训练GPU,但是好像都是在large language model的。
而在文档中搜寻到的gpu,其实是release的版本说明,里面搜来搜去,也是只有跟LLM相关的。莫非是一开始就支持GPU?我希望找到具体什么地方验证了FATE支持/不支持GPU
在官方群里提问后,群友提供了一个文档,说横向的联邦是支持GPU的,并且给了example:https://github.com/FederatedAI/FATE/blob/master/doc/tutorial/pipeline/nn_tutorial/README.md,简单把所有example搜了下gpu这个关键字,没有说明。。
淦,那就先探索一下这个trainer param
吧,搜索文档后,只有简单的几行代码,这能看出来个毛。
def __init__(self, trainer_name=None, **kwargs):super(TrainerParam, self).__init__()self.trainer_name = trainer_nameself.param = kwargs
结果在他源码https://github.com/FederatedAI/FATE/blob/master/python/federatedml/param/homo_nn_param.py
里面,还真就只有这么些代码
class TrainerParam(BaseParam):def __init__(self, trainer_name=None, **kwargs):super(TrainerParam, self).__init__()self.trainer_name = trainer_nameself.param = kwargsdef check(self):if self.trainer_name is not None:self.check_string(self.trainer_name, 'trainer_name')def to_dict(self):ret = {'trainer_name': self.trainer_name, 'param': self.param}return ret
可是他在调用的时候是写了这么多的。他既没有告诉我有什么kwargs,也没告诉我每个kwargs是什么作用,会有什么结果。感觉文档的提升空间还是有的。。好不方便啊。不但没明说GPU的支持与否,参数的具体意义和选项也没有给全(或者说给个全参数指引链接也好呀)。
trainer_param = TrainerParam(trainer_name='fedavg_trainer', epochs=1, batch_size=8, data_loader_worker=8, secure_aggregate=True, cuda=0)
解决
我是在/federatedml/param/homo_nn_param.py
下找到的这个trainer param类,所以他大概率只能支持homo nn的场景。
使用的方法,根据文档,应该是通过trainer param类,把param给传入然后带动训练过程。
例子可以参考这个里面的例子,homo nn场景应该每个例子都会有trainer_param
类,加入cuda=0
这个参数应该就可以使用GPU了。
后续真实场景我会再测试
- 此参数 是否真是有效,通过查看GPU使用
- hetero场景能否使用GPU
到时再来更新。
【FATE联邦学习】FATE联邦学习使用GPU、指定cuda下标相关推荐
- 坑挺多 | 联邦学习FATE:训练模型(二)
本篇参考:pipeline_tutorial_hetero_sbt上一篇为:坑挺多 | 联邦学习FATE:上传数据(一),我们继续来看看这个教程里面的大坑. 文章目录 1 神坑一:guest网络的设置 ...
- 联邦学习FATE框架安装搭建 - CentOS8
联邦学习 FATE (Federated AI Technology Enabler) 是微众银行AI部门发起的开源项目,为联邦学习生态系统提供了可靠的安全计算框架.FATE项目使用多方安全计算 (M ...
- 联邦学习FATE框架安装搭建
联邦学习 FATE (Federated AI Technology Enabler) 是微众银行AI部门发起的开源项目,为联邦学习生态系统提供了可靠的安全计算框架.FATE项目使用多方安全计算 (M ...
- 联邦学习 OR 迁移学习?No,我们需要联邦迁移学习
2020-11-18 13:40:43 机器之心分析师网络 作者:仵冀颖 编辑:H4O 在这篇文章中,作者通过 4 篇论文详细介绍了联邦学习中的联邦迁移学习问题,并探讨了向经典联邦学习中引入迁移学习的 ...
- 【阅读笔记】联邦学习实战——联邦个性化推荐案例
联邦学习实战--联邦个性化推荐案例 前言 1. 引言 2. 传统的集中式个性化推荐 2.1 矩阵分解 2.2 因子分解机 3. 联邦矩阵分解 3.1 算法详解 3.2 详细实现 4 联邦因子分解机 4 ...
- 【阅读笔记】联邦学习实战——联邦学习智能用工案例
联邦学习实战--联邦学习智能用工案例 前言 1. 智能用工简介 2. 智能用工平台 2.1 智能用工的架构设计 2.2 智能用工的算法设计 3. 利用横向联邦提升智能用工模型 4. 设计联邦激励机制 ...
- 【联邦学习】联邦学习的应用领域、开源平台
文章目录 一.联邦学习的应用 二.联邦学习的开源平台 参考链接 一.联邦学习的应用 联邦学习已经被应用于 计算机视觉 领域,例如医学图像分析. 联邦学习也被应用于 自然语言处理 和 推荐系统 领域. ...
- 【阅读笔记】联邦学习实战——联邦学习攻防实战
联邦学习实战--联邦学习攻防实战 前言 1. 后门攻击 1.1 问题定义 1.2 后门攻击策略 1.3 详细实现 2. 差分隐私 2.1 集中式差分隐私 2.2 联邦差分隐私 2.3 详细实现 3. ...
- 【阅读笔记】联邦学习实战——联邦学习在智能物联网中的应用案例
联邦学习实战--联邦学习在智能物联网中的应用案例 前言 1. 案例背景与动机 2. 历史数据分析 3. 出行时间预测模型 3.1 问题定义 3.2 构造训练数据集 3.3 模型结构 4 联邦学习实现 ...
最新文章
- 服务治理治什么,10张图告诉你答案
- 该如何对「半监督学习算法」实际性应用进行评估?Google给出了新答案
- ZeroMQ在windows下不同语言的编译
- 全球及中国凝胶植入物市场专项调研与供需现状分析报告2022年
- 服务器主板用360优化后崩溃,为什么卸载了360以后,电脑反而更流畅了?电脑高手这样解释...
- hibernate报错 net.sf.json.util.CycleDetectionStrategy$StrictionStrategyRepeatedReferenceAsObject
- 济南计算机机械工程学校,济南电子机械工程学校
- android apk自动安装包下载,Android实现应用下载并自动安装apk包
- HttpClient api-连接池
- 设计模式心得:三——命令模式
- c语言竖等于意思,C语言竖式问题
- 学生成绩查询html,中学生成绩查询用的一个网站叫什么行
- 分布式 NewSQL 数据库TiDB 3.1.0 版本发布,修复多项问题
- 网络直播延迟该如何解决这个问题
- 课设-基于51单片机+超声波模块的避障小车(源码+原理图+Protel仿真)
- 重装系统后出现服务器正在运行中,win7系统重装完后怎么一直显示正在启动 - 卡饭网...
- html 斜体变正体怎么变,WORD中编辑公式时怎样将斜体改成正体
- linux下eclipse的使用,linux下使用eclipse
- MySQL 完全备份 + 增量备份+完全恢复
- Android的各版本间的区别总结
热门文章
- Hive Table 操作命令汇总
- 如何解决微信端不能直接跳转浏览器
- labelimg win10安装教程
- 线上销售额增长60%,小红书品牌企业号如何实现迭代式突破
- 2019-5-25-win10-uwp-win2d-入门-看这一篇就够了
- 在启动MYSQL时出现问题:“ERROR 2003 (HY000): Can't connect to MySQL server on 'localhost' (10061)”
- 自动柜员机是不是微型计算机,微型计算机基础知识.pptx
- c语言编写数据存储的游戏,c语言经典小程序和c语言编写的小游戏带注释(自动保存的).doc...
- 华尔街智商测试 交易员江平的答卷
- 网易云类音乐--主页与登录界面结构html+css实现(三)