torch.sigmoid、torch.nn.Sigmoid和torch.nn.functional.sigmoid的区别
review代码的时候发现我使用的是torch.sigmoid，pycharm标黄cannot find reference 'sigmoid' in '__init__.py'于是产生了这样的疑问，这三者的区别是啥。
0x00. 官网解释
- torch.sigmoid
我们可以看到，这是一个方法，拥有Parametrs和Returns。 - torch.nn.Sigmoid
可以看到官网文档在左上角标注着显眼的CLASS，同时根据Examples我们可以得出结论，torch.nn.Sigmoid在我们的神经网络中使用时，我们应该将其看作是网络的一层，而不是简单的函数使用。
- torch.nn.functional.sigmoid
事实上，torch.nn.functional从这个包名就能看出来，这个包里的都是函数。同样的，按照官网的文档的内容，我们也可以判断出torch.nn.funtional.sigmoid是一个方法，可以直接在我们的神经网络的forward中使用，并不需要在init的时候初始化。也就是说torch.nn.functional.sigmoid和torch.sigmoid没有什么区别，同理，本文对于其他的激活函数一样适用。
torch.sigmoid、torch.nn.Sigmoid和torch.nn.functional.sigmoid的区别相关推荐
- torch.sigmoid()、torch.nn.Sigmoid()和torch.nn.functional.sigmoid()三者之间的区别
在利用自定义损失函数进行损失计算的时候,需要使用到sigmoid函数.当在训练模型的时候,使用torch.nn.Sigmoid()对输出进行处理,但是提示__init__错误.我发现光sigmoid( ...
- PyTorch 笔记（16）— torch.nn.Sequential、torch.nn.Linear、torch.nn.RelU
PyTorch 中的 torch.nn 包提供了很多与实现神经网络中的具体功能相关的类,这些类涵盖了深度神经网络模型在搭建和参数优化过程中的常用内容,比如神经网络中的卷积层.池化层.全连接层这类层次构 ...
- 模型的第一层：详解torch.nn.Embedding和torch.nn.Linear
文章目录 1.概述 2.Embedding 2.1 nn.Linear 2.2 nn.Embedding 对比 初始化第一层 1.概述 torch.nn.Embedding是用来将一个数字变成一个指定 ...
- PyTorch : torch.nn.xxx 和 torch.nn.functional.xxx
PyTorch : torch.nn.xxx 和 torch.nn.functional.xxx 在写 PyTorch 代码时,我们会发现在 torch.nn.xxx 和 torch.nn.funct ...
- nn.Module、nn.Sequential和torch.nn.parameter学习笔记
nn.Module.nn.Sequential和torch.nn.parameter是利用pytorch构建神经网络最重要的三个函数.搞清他们的具体用法是学习pytorch的必经之路. 目录 nn.M ...
- Pytorch的自定义拓展:torch.nn.Module和torch.autograd.Function
参考链接:pytorch的自定义拓展之(一)--torch.nn.Module和torch.autograd.Function_LoveMIss-Y的博客-CSDN博客_pytorch自定义backw ...
- nn.functional.sigmoid
此函数已被抛弃,请参考torch.nn.Sigmoid torch.nn.functional.sigmoid(input) 官方文档: sigmoid torch.nn.functional.sig ...
- RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor) should be the
运行时出现这个错误:RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor) shou ...
- Pytorch数据使用列表的卷积层时报错及解决-RuntimeError: Input type (torch.cuda.HalfTensor) and weight type (torch.Floa
文章首发及后续更新:https://mwhls.top/3737.html,无图/无目录/格式错误/更多相关请至首发页查看. 新的更新内容请到mwhls.top查看. 欢迎提出任何疑问及批评,非常感谢 ...
最新文章
- notifyDataSetInvalidated()跟notifyDataSetChanged()的区别
- seaborn系列 (18) | 线性回归图regplot()
- 两个有序数组的中位数 python_Python寻找两个有序数组的中位数实例详解
- OpenGL编程指南13：光源移动
- 突发热点事件下微博高可用注册中心vintage的设计\u0026实践
- SpringBoot实现定时任务
- 群晖消息通知 推送服务器,群晖resync服务器
- StructLayout(LayoutKind.Sequential)(转)
- linux tomcat startup.sh,Tomcat 安装教程与启动-startup.sh
- Oracle以甲乙丙丁来排列
- PHP与其他语言的比较
- 拳皇java_拳皇（Java简单的小程序）代码实例
- 创业 - 原始股与期权
- 计算机启动时老是检测,笔记本电脑开机时总是自检怎么办 【详解】
- 数字温湿度传感器DHT11
- redirect、redirect-action、chain三者的区别！
- 【嵌入式】基于平头哥内核的W801 WIFI SoC的OTA方案设计
- AD怎么输入坐标_双心软件回头曲线坐标计算?
- 【Python】Matplotlib 可视化进阶之PCA主成分分布图
- 细细品味Hadoop_Hadoop集群精华文档合集