Weights & Biases的介绍

Weights & Biases是一个强大的用于深度学习可视化的工具，可以实现对深度学习各项参数的可视化，以及实现深度学习超参数寻优，详细介绍可参见官网。
https://wandb.ai/site
Weights & Biases在python是以wandb模块实现

Wandb的使用

step1. 进入Weights & Biases 进行账号注册和登录

step2. 建立project

step3. 安装wandb

pip install wandb

step4. python程序设置

wandb初始化

wandb.init(project='VGG-LSTM',entity='ljhahaha')

超参数设置

wandb.config.rnn_unit=64
wandb.config.lstm_layers=3
wandb.config.batch_size=128
wandb.config.lr=0.00001
wandb.config.epochs=30
wandb.config.optimizer='adam'

代码正文设置（这里展示了优化器的设置）

optimizer = wandb.config.optimizerif optimizer == "adam":train_op = tf.train.AdamOptimizer(wandb.config.lr).minimize(softmaxs_loss)elif optimizer == "sgd":train_op = tf.train.GradientDescentOptimizer(wandb.config.lr).minimize(softmaxs_loss)elif optimizer == "rmsprop":train_op = tf.train.RMSPropOptimizer(wandb.config.lr).minimize(softmaxs_loss)else:raise ValueError("unexpected optimizer name")

参数记录（这里展示了训练中训练集和验证集的准确率和损失函数的记录）

#数据展示
wandb.log({"Train Accuracy":acc_list,"Train Loss":loss_list,"Test Accuracy":val_acc,"Test Loss":val_loss})
#画图展示
wandb.log({"loss" : wandb.plot.line_series(xs=wandb.config.epochs,ys=[loss_list, val_loss],keys=["Loss of training", "Loss of validation"],title="Loss function",xname="epochs")})
wandb.log({"acc" : wandb.plot.line_series(xs=wandb.config.epochs,ys=[acc_list, val_acc],keys=["Accuracy of training", "Accuracy of validation"],title="Accuracy",xname="epochs")})

step5. Weights & Biases里面的Sweep设置（用于超参数寻优）

创建一个新的sweep
设置sweep参数
设置参数时可以使用列表对所取值罗列，也可以选择数据分布形式

点击下方的 Sweep initializer可以得到如下结果：
3. 执行操作（所有操作在cmd进行）

代码展示

(1)切换工作路径

cd E:/tensorflow_learning

(2)wandb登录

(3)输入API key（根据他给定的地址获取key）

输入key之后系统会自动建立一个.netrc文件
(4)输入代理命令（即launch agent里面的代码），程序便开始执行

step6. 进入官网查看程序的运行

Weights Biases的使用相关推荐

Weights Biases (一)
一.简要介绍 Weights & Biases 是供开发人员更快地构建更好模型的机器学习平台.使用 W&B 的轻量级.可互操作的工具快速跟踪实验.版本和迭代数据集.评估模型性能.重现模 ...
YOLOv5的Tricks | 【Trick11】在线模型训练可视化工具wandb(Weights Biases)
如有错误,恳请指出. 与其说是yolov5的训练技巧,这篇博客更多的记录如何使用wandb这个在线模型训练可视化工具,感受到了yolov5作者对其的充分喜爱. 所以下面内容更多的记录下如何最简单的使用 ...
Wandb(Weights Biases) 深度学习轻量级可视化工具(Sweeps Artifacts)
wandb是Weights & Biases的缩写,是类似TensorBoard, visdom的一款可视化工具是属于Python的,不是Pytorch的 wandb是最大的特点是能自动上传 ...
先进工具，助力数据科学工作者快速调优丨和鲸科技 × Weights Biases
12月14日,和鲸科技与数据科学平台厂商 Weights & Biases 联合举办的目标识别类 Workshop 公益活动正式告一段落,这也标志着两家数据科学领域的杰出企业即将开启新的合作征 ...
Weights Biases
这是一个模型可视化工具.官网的介绍: Our tool wandb helps you track and visualize machine learning experiments. Gettin ...
卷积神经网络(CNN)张量(图像)的尺寸和参数计算(深度学习)
卷积神经网络(CNN)张量(图像)的尺寸和参数计算(深度学习) 分享一些公式计算张量(图像)的尺寸,以及卷积神经网络(CNN)中层参数的计算. 以AlexNet网络为例,以下是该网络的参数结构图. A ...
tensorflow---alexnet training (tflearn)
# 输入数据 import input_data mnist = input_data.read_data_sets("/tmp/data/", one_hot=True)impo ...
模型数据的保存和读取
1,基本内容目的是将模型数据以文件的形式保存到本地. 使用神经网络模型进行大数据量和复杂模型训练时,训练时间可能会持续增加,此时为避免训练过程出现不可逆的影响,并验证训练效果,可以考虑分段进行,将训 ...
list python 转tensor_TensorFlow 中的几个关键概念：Tensor，Operation，Graph，Session
前言:TensorFlow是一种符号式编程框架,首先要构造一个图(graph),然后在这个图上做运算.打个比方,graph就像一条生产线,session就像生产者.生产线具有一系列的加工步骤(加减乘除 ...

Weights Biases的使用

目录