欢迎大家前往腾讯云+社区,获取更多腾讯海量技术实践干货哦~

本文由 BestSDK 团队发布在腾讯云+社区

2016 年中国移动短视频用户数为 1.5 亿,今年预计会达到 2.4 亿,增长率高达 58.2%,可见短视频的热度在一直提升;近几年,短视频的生产模式在不断演进,从 UGC 到 PGC,再到最新的 MCN,内容的产能和质量均得到了巨大提升。

短视频发展史

​图 1

图 1 所示是短视频及直播的发展史,众所周知,2016 年是直播元年,在这期间诞生了很多直播平台,比如熊猫、映客、斗鱼等;而在 2017 年,短视频的火爆程度并不亚于直播,可能大家都以为短视频是从 2017 年开始火爆起来的,但其实早在 2015 年就已经诞生出快手、秒拍、美拍等短视频 App。

​图 2

图 2 所示是短视频在各个行业的综合应用。

研发短视频 App 的难点

前面介绍完有关短视频的历史以及发展趋势,下面着重介绍一下关于短视频开发需要的预备知识及难点:

  • 1、音视频领域固有门槛

深刻理解音视频编码格式 H.264 和 AAC 的编码细节;混音时如何将两个音频调整到一致的参数,使用什么样的算法去混合等等。

  • 2、图形图像、OpenGL 处理

摄像头预览数据,图像处理,音视频编解码都需要了解 RGB 和 YUV 色彩空间的数据格式,以及它们之间转换的方式等等。

  • 3、平台相关

要对相应平台的摄像头、麦克风、编解码、多媒体处理等 API 十分熟悉,否则它们的一些坑会耗费你大量时间。

  • 4、高级功能

视频编辑少不了特色和高级的功能,例如美颜,滤镜,MV 特效,倍数拍摄,文字特效等,每一个高级功能都对各方面技术提出很高的要求。

  • 5、系统版本,机型等兼容性问题

这算是一个老生常谈的问题,无论 iOS 还是 Android,机型和系统版本都越来越多了,必然会带来兼容性问题。比如会有小部分 Android 机型编码的视频在 iOS 端播放不了的情况,类似这种兼容性问题都是需要进行解决的。

  • 6、性能以及资源占用的优化

移动应用的计算资源受到相应系统的严格制约,在进行音视频采集,渲染,编码等复杂计算的同时,还要确保应用有足够的资源流畅运行,这要求开发人员有丰富的调优能力。

短视频 SDK 架构设计

接下来介绍一下我们团队在进行短视频 SDK 实践中主要做的一些事情,这其中最重要的就是短视频 SDK 的架构设计,包括架构设计理念、架构图、整体数据流程、模块架构设计等。

  • 1、SDK 架构设计理念

​图 3

说到 SDK 的设计理念必定要提到命名规范,就跟七牛的企业理念「简单.可信赖」一样,我们的命名规范是统一、简单并且精炼的,比如我们将对外的核心类统一以 PLShortVideo 为前缀,如图 3 所示分别是录制、编辑以及剪辑等模块的命名;参数配置类则均以 PLxxxSetting 为标准进行命名(图 4);接口回调类则均以 PLxxxListener 为标准命名。

​图 4

第二点我们遵循的是高模块化、模块可插拔的一个理念;高模块化必须要保证每个类每个方法都「名副其实」并「各司其职」,这样才能编写更清晰的逻辑;高模块化同时可以促进高复用,减少重复代码;图 5 所示是 SDK 内的转码核心类,因为编辑、剪辑在最后保存的时候都需要一个解码并重新编码的过程,在这里,转码核心类可以达到一个高复用。

​图 5

图 6​

图 6 所示为短视频 SDK 的包体划分,从表中我们可以清晰地看到每个包体的功能划分,不同的功能放在了不同的包体当中。我们并没有使用 ffmpeg 的软解软编,而是尽量使用 Android 和 iOS 的系统 API 进行硬编硬解,这样不仅减少了包体大小,而且速度要快很多,尽管在技术层面上会增加很多难度,会踩很多坑,但我们还是坚持选用这个方案。在引入第三方库时,我们也都是会经过充分配置和裁剪去严格控制包体的大小,这样一来,所有包体总和才能有现在「小而精」(1.5M)的成果。表中最后的内置滤镜模块,其中的滤镜资源可以选择性拷贝,SDK 内部会自动判断。这是关于模块设计方面的一些理念。

​图 7

第三点是要和 UI 解耦,如图 7 所示,是从不同 App 中截图得到的画面,可以看出每一个App 都有各自的设计,作为一款短视频 SDK,是绝对不可以在 UI 方面限制客户发挥的。市面上有些短视频 SDK 将 UI 写死并作为 SDK 的一部分,这样对于客户在设计 UI 界面上来说,是非常不友好的;我们采用的是另一种方法,SDK 与 UI 进行解耦,客户的 UI 是可自定义的,整个 SDK 中接受 view 的地方只有一处:

接着是扩展性这一块,我们遵循高扩展,开放性的理念。在录制以及编辑过程中,都会有数据的回调并支持第三方库进行美颜,滤镜,贴纸,特效等功能。

  • 2、短视频SDK架构

图 8​

图 8 所示为 Android 短视频 SDK 的架构图,可以划分为四层。第一层为应用层;第二层为 SDK 对外的接口层;第三层为核心层,主要是内部的一些模块;第四层主要是 Android 系统层。

​图 9

图 9 所示是整体数据流程图;输入模块支持通过两种方式采集数据,一种是通过摄像头和麦克风采集数据,采集到的数据可以进行数据处理,另一种则是通过文件导入并进行解码处理;编辑模块有着十分丰富的功能比如添加字幕、MV 特效、添加背景音乐等等;编码模块主要支持 H.264 软编/硬编以及 ACC 软编/硬编。下面将着重就几个模块进行介绍。

​图 10

图 10 为录制模块的示意图。录制模块的重点在于帧数据获取,除了可以通过摄像头获取视频帧,还可以通过屏幕录制获取视频帧,而音频帧数据主要还是通过麦克风进行获取;虚线部分的 Filter 模块主要实现了内置美颜/滤镜功能,另外因为有纹理和 YUV 数据的 CallBack 回调机制,所以也支持第三方库的美颜、滤镜、特效等功能;处理后的数据会经过 OpenGL 进行裁剪,缩放,旋转等操作,这些工作虽然可以由 CPU 来进行,但是会比较耗时,利用 GPU 是更明智的选择。

​图 11

图 11 所示为编辑模块的示意图。首先需要导入一个视频文件,解包之后会得到相应的帧数据,接着分别通过音视频解码器得到 PCM 和纹理,然后把它们送进编辑引擎,在这里面可以进行各种各样的处理数据经过编辑之后,与录制相同会分两路,其中一路进行播放渲染,另一路会进行转码保存。

​图 12

图 12 所示是 MV 特效的实现思路。通过摄像头采集的数据无需解码,而 MV 视频文件的帧数据则需要解码后才可以进行处理。SurfaceTexture 的主要作用是将解码后的数据帧进行回调通知你可以在 OpenGL 线程中更新纹理了,这个通知可以是多线程同时进行的操作,所以在帧回调时一定要对其进行上锁,防止出现 MV 画面之间不同步的问题。

图 13​

图 13 为日志系统的模块图。日志系统主要是为了方便排障,快速定位问题以及调试问题,我们会将 SDK 版本、设备机型、系统版本,关键配置等一一进行输出,以方便用户根据这些信息进行排障。当然,研发过程不可能一帆风顺,总要踩过一些坑才能使整个 SDK 更加完善。下面就列举一些我们踩过的坑以及排查的过程。

部分视频剪辑出现花屏

我们通过对客户提供的一些样本视频进行分析后,发现出问题的都是带有双向引用 B 帧的 High profile 视频,如图 14 所示,B 帧(3)位于中间,其引用左右两边的 P 帧(2、4)在显示时是这样的顺序,但是在进行帧存储以及视频解码时,B 帧(3)是在这 2 个 P 帧其后的。

最后给大家分享一句话,也算是对自己的一个鼓励,就是「Fake it until you make it」。对于我们客户端团队,要将 SDK 打磨到最完美的状态我们进行了很多尝试,也历经了很多血泪,最后才有今天的成果,我们需要努力的地方也还有很多,也会再接再厉,谢谢大家!

问答

短视频的发展前景以及未来发展方向?

更多与短视频相关的精华问答,尽在腾讯云+社区!

相关阅读

快手为何能成为现象级产品?还原2017年最火短视频背后的商业逻辑

开发手游和视频直播,这几款SDK必备

数据告诉你,抖音是怎么在半年之内逆袭的

此文已由作者授权腾讯云+社区发布,转载请注明文章出处

原文链接:https://cloud.tencent.com/developer/article/1049278


深度解析!短视频如何成为现象级产品相关推荐

  1. 42套JavaScript深度解析教学视频!合集

    本文首发于:风云社区SCOEE(社区旨在普惠软件.图片.音乐.视频.素材.文档等互联网资源.为大众提供多样化的服务,以及主要涵盖学术科学.电脑技术.文化人文.体育健身等领域的知识和信息,获得用户的支持 ...

  2. 计算机安全事件现象级解决方案,长篇干货:5类10款现象级产品,带你了解产品生命周期那些事...

    本文通过对5大类10款现象级产品的复盘,讲述一款产品在它的生命周期各个阶段产品经理和产品运营应该注意哪些事,并通过这10款产品的迭代引出关于一切产品皆社交的思考. 产品生命周期 在对产品进行复盘之前, ...

  3. 微信程序短视频去水印源码 开源产品未加密未授权相关文章

    微信程序短视频去水印源码 开源产品未加密未授权相关文章 看到咸鱼上还有人卖这套源码,所以就把这套源码 免费分享出来 开源产品,未加密未授权,可调用别人的接口和自己的接口. PS:源码仅供技术学习参考, ...

  4. 推荐系统视频行业揭秘,“抖音快手”现象级产品背后的推荐逻辑

    随着5G渗透率的快速提升,小视频应用还将迎来新的爆点,小视频行业从不缺对手,想从一片红海中脱颖而出,面临的困境可想而知.如何冲破重重困境,需要找到视频与用户之间的最佳连接,在综合成本.收益.落地难度等 ...

  5. 码神日志N0.1|专场邀请:深度解析音视频技术(内有福利哦~)

    码神日志--实践开发者的社群理想 网易云信联手出品人,通过每期专业领域深度内容的分享,把相同垂直专业领域的开发者筛选出来,交流互动,共同成长,组织专注精准的垂直技术社群. 码神日志 深度解析:音视频技 ...

  6. CDN高级技术专家周哲:深度剖析短视频分发过程中的用户体验优化技术点

    摘要: 深圳云栖大会已经圆满落幕,在3月29日飞天技术汇-弹性计算.网络和CDN专场中,阿里云CDN高级技术专家周哲为我们带来了<海量短视频极速分发>的主题分享,带领我们从视频内容采集.上 ...

  7. 深度分析短视频搬运视频消重九种方法各平台轻松过原创

    网上流传的检查MD5其实已经过时了,现在MD5已经是过去式. 查重要对视频的方方面面进行检查,包括但不限于: 视频的标题,封面,描述,时长,标签,分辨率,背景音乐,配音,字幕等信息,筛选出一些可能重复 ...

  8. 深度剖析短视频分发过程中的用户体验优化技术点

    2018深圳云栖大会已经圆满落幕,在飞天技术汇-弹性计算.网络和CDN专场中,阿里云CDN高级技术专家周哲为我们带来了<海量短视频极速分发>的主题分享,带领我们从视频内容采集.上传.存储和 ...

  9. 火一把就死的现象级产品:疯狂猜图与百度魔图

    一个用户不可能都知道所有的品牌,在遇到问题的时候可以将截图发送到社交网络进行求助,微信朋友圈就这样被疯狂刷屏了. 文/陈中(微信公众号bianews8) 疯狂猜图与百度魔图,两个带图的应用,这几天把微 ...

最新文章

  1. 通过Java字节码发现有趣的内幕之String篇(上)(转)
  2. 洛谷P2679 子串
  3. 直播预告 | 小米人工智能部崔世起:小爱同学全双工技术实践
  4. 关于ios手机上传图片旋转问题的解决
  5. SolrCloud详解及搭建
  6. USACO-Section2.3 Longest Prefix
  7. textfield获取其中内容_冲压工艺流程,常见冲压缺陷及消除方法,46页内容全面介绍冲压...
  8. mysql opendrowset,java,mysql、jdbc
  9. JSON字符串,JSON对象的相互转换
  10. ps制作印章教程:印章ps制作盖章
  11. 如何定位到服务器CPU飙高的原因
  12. Android项目实战--手机卫士34--流量管理
  13. 解决微信内置浏览器tel:手机号不能打电话的问题
  14. 曾几何时,还是游吟长安的醉客
  15. 小白的python学习之路-turtle画不同大小的五角星
  16. MySQL分组查询最新的一条记录
  17. 全民小视频逆势崛起:短视频的“小趋势”与“信用飞轮”
  18. C++11 auto关键字的用法
  19. 形式逻辑(02)逻辑概述 负判断
  20. n6005/n5105在debian11实现jellyfin硬解

热门文章

  1. 文本框的左视图不见了?
  2. os 通过pptt table得到cache信息
  3. mysql flush pri_mysql命令flush privileges
  4. N01web网页设计实例作大作业(div+css) ——中国茶文化(6页) 茶文化网页制作作业_中国化(网页设计...
  5. 上海市青少年算法2021年9月月赛(丙组)
  6. vue自定义表格(每一列表格下面包含一个子表格)
  7. 百度云不限速下载方法
  8. Display常用英文缩写
  9. SitePoint播客#57:不是负面
  10. 浅谈Linux内存管理那些事儿