知乎:https://www.zhihu.com/question/56171229
关于这个问题,摘取两个我能看的懂得作者得回答
风格迁移综述:https://blog.csdn.net/s729193140/article/details/92796766

文章目录

  • 一、人民邮电出版社
  • 二、二元倒回改造架构

一、人民邮电出版社

文本风格迁移 堪比取色器!多种文本风格随意复制
画图软件中的取色器很多人都用过,“吸管”吸一下就能复制你想要的颜色,然后就可以把这个颜色用到任何你想要改变的素材中:

现在,文本的风格也能实现这样的“一键复制”了!



甚至,用这种方法还能模仿别人的笔迹:


这种针对图像中的文字进行风格迁移的任务叫做选择性文本风格迁移(Selective Style Transfer for Text):首先,自动检测图像中文本所在的区域,然后将新的文本样式应用到该区域,图像中的非文本部分保持不变。

有两种方法都实现了不错的文本风格迁移效果:两阶段法和端到端法

Two-stage两阶段法:

1)首先根据源风格图像(上图中的Source Style Image)将整幅图像(上图中的Source Content Image)风格化;
2)利用TextFCN文本检测器确定图像中的文本区域,并计算该图像区域像素级的热图。为了让最终生成的图像只改变文本区域的风格,将原始图像和使用 TextFCN 热图加权的风格化图像进行混合。这种方法可以获得逼真的文本风格化图像,并确保非文本区域保持不变。

End-to end端到端法:
在深度学习中,端到端指的是输入原始数据,输出的是最后的结果,中间的一系列操作都在神经网络内部进行,不必分模块进行处理(可以把中间的神经网络当作黑盒子)

受到“蒸馏策略(distillation strategy)”的启发,这项研究提出了一个新的端到端网络架构(“蒸馏”的基本思想是将能够解决不同任务的各种网络学习到的信息传递到一个模型中)
将图像风格转换网络(image style transformation network)与文本检测器结合起来,利用预训练的图像风格转换网络和文本的真实注释来训练一个随机初始化图像转换网络(上图中的Selective Style Transfer),损失函数为均方误差损失(mean squared error loss)

图像中的文本风格迁移在艺术设计和学术研究中都能发挥作用:
使用这两种方法实现文本风格迁移,可以得到充满设计感的照片,设计师能快速地找到一个场景适合的文本风格:


在上面两幅图中,左侧这一列的图像“复制”了顶端两张小图的文字风格,生成了变换风格后的图像

一些带有复杂背景的文本风格也能完美复制到别的场景中:

使用文本风格迁移,可以轻松切换不同的打印字体(machine printed text)风格。利用这种特点,在文本识别任务中,可以将图像中任意风格的文本转换为统一的风格,减少识别步骤。

这种方法还是一种非常好的数据增强工具,可以增加文本的多样性(同一段文字,不同的字体、颜色等属性),提高文本检测模型的性能。

  1. 文本检测综述
  2. 【深度学习】R-CNN 论文解读及个人理解

二、二元倒回改造架构

目前自然语言生成(NLG)领域的研究还不太实用,所以希望像人一样先理解句子,再改写句子是不太现实的。
那么能否用机器翻译的方法,不理解句子也能实现句子的转换?
这也是挺有局限的。机器翻译需要使用使用大量的对齐语料进行监督学习,应该是不会有人专门标注这样的语料的。不过在某些特定领域,可以通过一些巧妙的数据挖掘方式来获取语料。
例如根据新闻报道自动生成评论或摘要等,这样的题目现在很多人在做。以前我们组主要是做抽取式的摘要,现在也在尝试用seq2seq做生成。所以,假如你把新闻语料和新闻评论的关系也当做“风格转换”的话,那么答案还是存在的。

  1. 了解自然语言处理(NLP)与自然语言生成(NLG)
  2. 入门Python神经机器翻译,这是一篇非常精简的实战指南
  3. NLP之Seq2Seq
  4. 深度学习之RNN(循环神经网络)
  5. NLP之Seq2Seq

目前 AI 研究界里 “文本风格迁移” 有什么重大成果 ?相关推荐

  1. 【NLP】NLP文本风格迁移,秒变金庸风

    NewBeeNLP公众号原创出品 公众号专栏作者@山竹小果 风格迁移是自然语言生成领域一个非常火的主题,对于文本风格迁移,先举个例子: Input:谢谢 Output(金庸):多谢之至 Input:再 ...

  2. 学习笔记:Controllable Artistic Text Style Transfer via Shape-Matching GAN 基于形状匹配生成对抗网络的可控艺术文本风格迁移

    [ICCV-2019] Controllable Artistic Text Style Transfer via Shape-Matching GAN 基于形状匹配生成对抗网络的可控艺术文本风格迁移 ...

  3. 深度学习框架PyTorch入门与实践:第八章 AI艺术家:神经网络风格迁移

    本章我们将介绍一个酷炫的深度学习应用--风格迁移(Style Transfer).近年来,由深度学习引领的人工智能技术浪潮越来越广泛地应用到社会各个领域.这其中,手机应用Prisma,尝试为用户的照片 ...

  4. 论文浅尝 | 低资源文本风格迁移数据集

    来源:AAAI2020 论文链接:https://www.msra.cn/wp-content/uploads/2020/01/A-Dataset-for-Low-Resource-Stylized- ...

  5. 图像风格迁移cvpr2020_CVPR 2020 论文大盘点-文本图像篇

    本文盘点CVPR 2020 所有文本图像(text)相关论文,主要分为手写文本和场景文本两大方向,总计16篇,对文献进行了细致的分类,大部分论文是围绕识别问题的研究. 方向包括: 1)场景文本检测(S ...

  6. Pytorch笔记:风格迁移

    Pytorch笔记:风格迁移 训练模型:风格迁移网络+VGG16网络 生成网络:风格迁移网络 代码如下(根据陈云<深度学习框架:Pytorch入门与实践>的代码改动) main.py im ...

  7. 图像迁移风格保存模型_用TensorFlow.js在浏览器中部署可进行任意图像风格迁移的模型...

    风格迁移一直是很多读者感兴趣的内容之一,近日,网友ReiichiroNakano公开了自己的一个实现:用TensorFlow.js在浏览器中部署可进行任意图像风格迁移的模型.让我们一起去看看吧! Gi ...

  8. 图像风格迁移基础入门及实践案例总结

    目录 1图像的不同风格 2何为图像风格迁移 2.1基础概念及方法 2.2示例 3图像风格迁移的典型研究成果 3.1deep-photo-styletransfer 3.2CycleGAN 3.3U-G ...

  9. 零样本风格迁移:多模态CLIP文本驱动图像生成

    点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达 来源:GitHub ,新智元 [导读]零样本的风格迁移听说过没有?英 ...

最新文章

  1. 5m 云服务器2核4g_小鸟云的云服务器,2核4g,带宽5M,大概可支持多少人同时在线?...
  2. 2021年速卖通828年中大促活动报名攻略
  3. cocos2dx基础篇(9)——触碰事件Touch
  4. 翻译SSD论文(Single Shot MultiBox Detector)
  5. IOS 实现TXT文本自动识别编码的方法
  6. IT职业就业-学长有话说(二)
  7. Flink学习笔记03:将项目打包提交到Flink集群上运行(Java版)
  8. 为什么博客园安卓端无法登陆,真服了
  9. pycharm 中文_环境搭建:3.pycharm社区版安装配置
  10. 项目管理九大知识体系(转)
  11. 《代码大全》读书笔记(转载)
  12. win7 下搭建基于jdk1.7 android开发环境
  13. 数据库常用字段、列属性、表类型与SQLyog工具的使用
  14. H2O机器学习框架的学习
  15. 在dhcp服务器上新建一个作用域需要定,在DHCP服务器上创建一个IP地址作用域,它的名称为“offi - 问答库...
  16. 云计算机手机apple,云电脑IOS版怎么在苹果IOS手机上使用教程
  17. STI、LOD与WPE概念:形成机理及对电路设计的影响
  18. 淘云互动机器人_淘云互动app机器人
  19. 【软考 系统架构设计师】软件工程⑩ 系统运行与软件维护
  20. springboot+vue框架

热门文章

  1. iOS Handle Refunds 处理退款 --- WWDC20
  2. 领英怎么用多个账号一起开发客户?进阶知识
  3. 编程语言的发展历史剧。(参考https://baijiahao.baidu.com/s?id=1588675986991787716wfr=spiderfor=pc)
  4. 计算机网络校园网简单设计与实现,校园网络的设计与实现
  5. Awesome Python
  6. 华为云MySQL 8.0正式商用,全新增强版开源利器强势来袭
  7. 抖音评论如何放置连接_给你一篇攻略,教你如何玩转抖音!
  8. 第一阶段>>>Java基础进阶 OOP/Reflect/注解/IO流/API核心
  9. C语言--二元一次方程求解(完)
  10. 20年数学建模美赛D题总结