#Paper Reading# Implicit Neural Representations with Periodic Activation Functions

论文题目: Implicit Neural Representations with Periodic Activation Functions
论文地址: https://arxiv.org/abs/2006.09661
论文发表于: arXiv 2020

论文大体内容：
本文主要提出使用sin来做激活函数，并且在特定任务上比relu好。

Motivation：
如何更好的处理复杂信号（如音频、图像、3D）是一个问题。

Contribution：
①本文提出使用周期激活函数来处理复杂信号（音频、图像、3D）；
②可以使用NN来学习到信号表示；
③在各类任务中有详细的实验，并取得更好的效果；

1. 初看论文，公式还挺复杂的，但是关键点就只是将激活函数改为sin。

2. 句子中有句话如下，说明用sin做激活函数是特别依赖超参weight的。
"Note that building SIRENs with not carefully chosen uniformly distributed weights yielded poor performance both in accuracy and in convergence speed."

3. 经过实验，总的来说，并不具有通用性。

参考资料：
[1] https://vsitzmann.github.io/siren/
[2] pytorch实现代码：https://github.com/lucidrains/siren-pytorch
[3] tensorflow实现代码：https://github.com/titu1994/tf_SIREN
[4] 知乎讨论：https://www.zhihu.com/question/402299421

以上均为个人见解，因本人水平有限，如发现有所错漏，敬请指出，谢谢！

#Paper Reading# Implicit Neural Representations with Periodic Activation Functions相关推荐

隐式神经表示一：神经网络拟合图像Implicit Neural Representations with Periodic Activation Functions
文章目录 1. Implicit Neural Representations with Periodic Activation Functions 0. 什么是隐式神经表示 1. 了解SineLay ...
概述：隐式神经表示（Implicit Neural Representations，INRs）
隐式神经表示(Implicit Neural Representations,INRs) 1 简介 1.1 传统的隐式表示 1.1.1 代数表示 1.1.2 函数表示 1.1.3 水平集表示(leve ...
论文阅读：（arXiv 2022） MINER: Multiscale Implicit Neural Representations
MINER: Multiscale Implicit Neural Representations (arXiv 2022) Paper:https://arxiv.org/abs/2202.0353 ...
[CVPR2022]ImFace: A Nonlinear 3D Morphable Face Model with Implicit Neural Representations
标题:ImFace: A Nonlinear 3D Morphable Face Model with Implicit Neural Representations 链接:https://arxiv ...
[paper reading] ResNet
[paper reading] ResNet GitHub:Notes of Classic Detection Papers 本来想放到GitHub的,结果GitHub不支持公式. 没办法只能放到C ...
paper reading：[renormalization]Semi-supervised Classification with Graph Convolutional Networks
paper reading:[Renormalization Trick] Semi-supervised classification with graph convolutional networ ...
【Paper】Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation
论文原文:PDF 论文年份:2014 论文被引:11398(2020/11/08) 18225(2022/03/26) 论文作者:Kyunghyun Cho et.al. 文章目录 Abstract ...
#Paper reading#DeepInf: Social Influence Prediction with Deep Learning
#Paper reading# DeepInf: Social Influence Prediction with Deep Learning 设计了一个端到端的框架DeepInf,研究用户层面的社会 ...
[paper reading] YOLO v1
[paper reading] YOLO v1 GitHub:Notes of Classic Detection Papers 本来想放到GitHub的,结果GitHub不支持公式. 没办法只能放到 ...

#Paper Reading# Implicit Neural Representations with Periodic Activation Functions

#Paper Reading# Implicit Neural Representations with Periodic Activation Functions相关推荐

最新文章

热门文章