产业数字化转型过程中产生着比过去任何一个时代都多的数据。在这样的背景下,数据存储技术应该怎么发展?11月7日,在腾讯Techo开发者大会上,来自科研领域的专家和腾讯云存储业务的工程师们共同揭开了云存储的发展趋势。

据IDC预测,全球数据总量预计2020年达到44ZB(440亿TB)。随着IT信息系统的不断发展,数据在各个行业的应用越来越广的同时,云存储又该如何进化满足大数据时代的要求?华中科技大学计算机学院教授、信息存储专委会常委、SNIA中国区专家委员会副主席谢长生在活动现场对存储行业的未来发展趋势进行了展望。

谢长生指出,主流存储介质从磁介质到闪存介质转移的同时,也驱动了接口协议的变化。存储行业未来将在纵向沿着Cache技术,横向朝着分布式存储两个方向继续进化。此外,包括智能存储、支撑AI的存储、交存内计算、计算型存储、类脑存储、区块链存储等在内的一些新兴存储技术也将迎来更大的发展际遇,在存储的大数据时代发挥更大的作用。

万物上云时代,云硬盘已经成为云的基础服务。腾讯技术工程事业群云硬盘专家工程师王银虎表示,通过介质升级,腾讯云云硬盘产品历经了普通云盘、高性能云盘、SSD云盘三大阶段。基于混合存储介质的高性能云盘性能指标达到了普通云盘的10倍,延迟低于5ms,高性能SSD云盘延迟甚至低于3ms。而腾讯云的下一代云硬盘——HSSD云盘则利用客户端卸载、存储卸载以及网络卸载的技术手段,可实现更低的延时和高性能,目前在平台侧已将延时降低到100微秒以下。

近年来,随着云端数据的增长,用户对云上数据产生价值的需求越来越强烈,云端大数据处理的瓶颈正在逐渐凸显。虽然业界推出了大数据存储基于对象存储的方案,提升了整体灵活性,但云数据的延时较高,整体大数据分析场景效率较低。在此背景下,腾讯云基于对象存储研发了CHDFS。腾讯云腾讯云存储研发专家工程师严俊明表示,腾讯云CHDFS融合了独立的元数据管理能力和对象存储的存储容量的能力,拥有高效和云数据操作低延时的特性。目前腾讯云CHDFS的服务可用性已达99.9%,数据持久性可以达到99.999999999%。

另一方面,腾讯庞大的自有业务体系也为云存储产品和技术提供了绝佳的实践平台。

微信作为一款月活用户超过10亿的国民级应用,系统每天读写量超过数万亿,峰值时数据调用超过1亿次/秒的。在海量存储中做到高性能,进而降低成本,是其面临的最大挑战。微信事业群分布式存储工程师郑建军表示,通过定制式开发的手段提升微信存储系统的基本能力,使得微信的存储性能比传统模式提升了近1倍。为提升数据安全性,微信还采用了多副本存储、实时校检、人工排查等方式,并通过定期对齐数据副本、副本数据的跨地域容灾等手段确保数据的完整性。此外,微信还通过快速拒绝策略、非租约的Paxos、大系统小做以及多副本冗余等方式确保存储服务在高峰期的可用性,目前,微信核心数据存储服务的可用性已经达到99.9999%的水平。

对于非常消耗存储资源的图片和音视频文件在微信和微信小程序内应用比例越来越高的问题,腾讯云还在尝试用更多的技术创新去满足这些应用对存储的需求。腾讯技术工程事业群图片业务技术副总监孙云清表示,腾讯云通过新的图片压缩技术和GPU加速技术,几年时间已经节省了近1T的图片带宽;腾讯云通过设置大容量、低成本,且直接跳过了文件系统的缓存处理服务池,大幅减少了应用读取图片和音视频档案时缓存的拷贝消耗,再结合IO的方式提高并发速度,大幅节省了系统性能,并降低了内存的消耗。此外,腾讯云还充分结合存储空间利用率优化、路由IP均衡、磁盘内存热文件缓存等手段全力挖掘系统性能潜力,并充分利用腾讯云平台上其他闲置资源进行资源弹性调配,不仅让业务变得透明,也大幅降低了成本。

腾讯云和微信小程序团队联合打造的小程序·云开发也封装了云存储的能力,提供快速上传和下载、CDN加速、服务端的对象管理和权限管理等底层云存储服务。腾讯云对象存储高级产品经理贺永红表示,通过小程序+云存储的结合,小程序可以实现直接读写云存储资源,服务端在管理资源同时还可同步进行AI处理。例如腾讯乘车码出行小程通过将城市数据迁移上云储存,实现大业务,小体积;香格里拉智能入住小程序通过和云储存的结合实现了客户的快速便捷智能入住;作业盒子小程序通过云存储的AI识别实现在线作批改。

贺永红介绍,目前腾讯云在云存储的可用性、数据可靠性和QPS三大核心指标上分别已经达到99.95%,99.9999999999%和30000的高水准,在业界遥遥领先。

腾讯Techo开发者大会揭晓云存储发展趋向:高性能、高可用、高性价比相关推荐

  1. 腾讯Techo开发者大会PPT分享

    腾讯云年度的开发者大会已经落幕,大会包括1场前沿技术主峰会,18个技术专场,150位海内外技术专家,28个互动展区,8场动手实验室,23小时小程序云开发极限编程,1场数据库诊断大赛. 内容上涵盖了最新 ...

  2. 2017腾讯LIVE开发者大会精彩回顾!

    2017年11月4日,腾讯LIVE开发者大会在腾讯大厦二楼多功能厅完美落幕啦!腾讯LIVE开发者大会(TLC)是由NOW直播技术团队联合IVWEB团队共同发起的关于音视频/直播领域技术分享的开发者大会 ...

  3. 腾讯拟推出个人微信云存储付费服务,你会买单吗?

    腾讯拟推出个人微信云存储付费服务,意味着微信聊天记录可以实现云端备份和恢复.据悉,该业务可能采用按年付费的模式,苹果用户或在180元/年左右,安卓用户或在130元/年左右.但该费用具体可以存储多大容量 ...

  4. 腾讯拟推出微信聊天记录云存储付费服务,网友质疑:有必要吗?

    整理 | 祝涛 出品 | CSDN(ID:CSDNnews) 据中国日报报道,微信可能计划推出个人微信云存储付费服务,微信聊天记录可以实现云端备份和恢复. 来源于<中国日报> 目前,微信仅 ...

  5. 2020中国 .NET开发者大会精彩回顾:葡萄城高性能表格技术解读

    12月19日,2020中国 .NET开发者大会在苏州召开.本次会议以"开源.共享.创新"为主题,结合线下.线上实时同步直播的方式,征集了来自微软.龙芯等知名企业的40余位技术大咖, ...

  6. iis属于中间件吗_今天设计一套高可用高并发、海量存储可伸缩的消息中间件生产架构...

    各位志同道合的朋友们大家好,我是一个一直在一线互联网踩坑十余年的编码爱好者,现在将我们的各种经验以及架构实战分享出来,如果大家喜欢,就关注我,更多的可以关注wx,一起将技术学深学透,我会每一篇分享结束 ...

  7. 阿里云开发者大会:资源加应用酝酿云存储变局

    云存储的概念虽然是近两年提出的,但其实际应用早在10多年前便已随着基于互联网的 Email 系统而开始.最早由Hotmail 提出这一概念,如今 Gmail 成了这一领域的象征,其实质都是建立在云存储 ...

  8. 2014年度企业云存储盘点

    亚马逊公司的S3和Nutanix公司提供的存储服务一样,可以低成本提供大量的文件存储.而供应商可以保持每个客户的存储.应用都是独立的,私有的.其中以Mobox为代表的个企业云存储发展较为突出的代表,国 ...

  9. TokenGazerOKex Research | 去中心化云存储行业报告

    2019年5月6日,TokenGazer与OKex联合发布了去中心化云存储行业报告.当前TokenGazer往期的项目评级报告.深度研究报告.加密货币月报等均已收录在官方网站:www.tokengaz ...

最新文章

  1. 【BZOJ】2333: [SCOI2011]棘手的操作
  2. 30秒就能理解的JavaScript优秀代码
  3. 多元统计分析最短距离法_聚醚多元醇的合成
  4. java jks 转pfx_JKS和PFX文件相互转换方法
  5. python查找最长的字符串_Python简单实现查找一个字符串中最长不重复子串的方法...
  6. Python常用运算符含义与用法演示
  7. 【实践】CTR预估在动态样式建模和特征表达学习方面的进展
  8. vue项目中遇到的问题总结
  9. 名片微信小程序的代码,错误版本,待改正
  10. 计算机找不到家庭网络连接,电脑找不到家里的wifi无线网络怎么办?
  11. 【EXLIBRIS】#小词旮旯# 003 Comrade
  12. 适用于高速公路的查询软件,数据稳定、免维护,可查询高速路况、路线规划、未来天气等信息
  13. 普普通通的算法期末考试试卷
  14. 服务器更新操作系统补丁,windows 10通过第三方landesk补丁服务器对系统进行了更新操作...
  15. 高考选地理化学生物能考计算机专业吗,高考选科物理化学地理可以报考什么专业...
  16. 旅游类APP-Android模块分析
  17. SourceTree的简单使用 - 变基(rebase)
  18. 素描原理在PS鼠绘实物中的应用
  19. 【教程】Python科研数据可视化、MATLAB科研数据可视化
  20. Android Context 归因标记

热门文章

  1. yolo算法_不到2MB,超轻YOLO算法!准确率接近YOLOv3,速度快上45%
  2. PHP留言并展示_利用PHP实现简单留言板
  3. 易安卓 html5,Developing a Multi Platforms Web Applications for Mobile Device Using HTML5
  4. 这篇 Linux 总结得很棒啊!
  5. 清华大学:全面如期开课,履行社会责任!
  6. 正态分布解释“剩女”现象——只因爱才子
  7. 200多位大牛!2019两院院士拟推荐候选人最新名单
  8. 国内学生宿舍最“豪华”的4所大学,清华大学排第3,第1当之无愧
  9. 俞敏洪最新干货演讲:在动荡的时代做不动荡的自己
  10. elasticsearch亿级数据量全量索引导入优化方案