有段时间没写文章了,很快就大学毕业了,放松了一段时间,大四的生活过得有些惬意,放松的太久了,重新紧起

来有些难,但是内心一直在不断的鞭策自己,今天忍不住了,决定重新开始写文章。告诉大家这个博客还要继续更新,

没有荒废掉。

这篇文章简单记录一下我的云计算平台实践,云计算这个概念,总是被不断的提起,在大三的时候就关注过一段时

间,但是当时一直停留在理论阶段,没有做什么实际的东西,所以就一直没有写任何关于云计算的东西,因为我一向是

先实践,然后总结,再写文章。大四前半段,带着我的团队把一个项目的二期开发做完,然后下半段先是考了一个烦人

的考试,然后才着手将我的云计算平台实践出来,平台的功能很少,因为只是自己做着玩,初衷是希望能够为学校实现

一个云存储平台的,统一学校的数据源,方便学校今后的网络建设和科研,为学校多做些贡献。但是学校手头也紧,公

费买个服务器都困难,只想安于现状。所以后来只能自己做着玩了,不能因为没有实际需求就不做了。

这个云存储平台是服务即平台模式的实践,提供WebService和API供其他应用系统调用,实现了20个接口,因为只

是模拟用的,数据模型做了简化,只保留核心字段。架构基于Hadoop+Hbase+EJB,大二的时候学了EJB但一直没有实

践过,一是因为没有遇到必须用这个技术的项目;二是考虑到技术门槛,不方便后面的维护。实现平台过程中遇到一个数

据节点不能为0的错误,因为报错实在是不太明确,让我一直以为是配置文件的问题,困扰了一段时间,后来发现是关于

用户权限的linux间无密码互访有问题造成的,这个问题本身简单,但是因为报错不明确,误导了我的判断。

云计算技术还在发展中,随着很多公司的采用,已经趋于成熟。任何技术都需要通过实践来发现问题解决问题。目前

来看,云存储一定程度上可以取代关系型数据库,关于数据库事务和高级查询可以借由第三方组件实现。松散的数据结构

更加利于敏捷实践,数据模型的字段可以更灵活的变更,我的云存储平台数据就是把教务系统的一些关系型数据模型过渡

到基于键值对的松散结构中的。对于一些本身就具有映射关系的字段,甚至可以简化到一个键值对关系中来。把所有关系

型数据都打散成为松散数据,确实是很颠覆传统思维的。但是有的时候逆向思维正是解决瓶颈问题的办法,比如关系型数

据库很难低成本的做到在限定时间内从几TB的数据中,排序并拿出TOP50W的数据。

Hbase本身的一些机制,可以从分布式文件存储层面就为所有数据提供缓存,对于一次写入多次读取的数据效果尤其

显著。我虽然没有看过twitter的数据层实现,但是如果让我设计,我会把最占用存储空间的数据部分,也就是一次写入多

次读取的微博和评论内容部分写入NoSQL中,稳妥起见把其他对安全性要求高的隐私数据部分写入MySQL,但是我仍然

可以把常用字段也同步到NoSQL中去以便提高系统性能。这可以看做是云存储最常见的一种实践方式。云存储的另一种常

见实践则是基于文档化的分布式存储,把视频,图片,音乐,文件以键值对的形式存储,这些媒介的共同特点都是占用空

间大,一次上传,多次读取。这两者其实可以归为一类。即使是多次写入,少量读取的数据也可以实现一个数据缓冲层,

应对频繁变更,然后定时定量持久化数据。所以存取比重不会影响对云存储的使用,因此才有了我之前把关系型数据模型

完全转化到松散型的做法。

利用Hbase本身的一些设计特点可以让我们从松散表结构设计上提高系统的性能,比如family列相同的部分会在物理上

存储在更近的节点上,所以在从关系型到松散型过渡的时候,可以把family列设置为表名,把label子列设置为属性字段,

这样同一个表的数据可以在物理上更加紧凑,便于系统更快的取出同一数据模型的相关属性。family列的定义和修改需要对

Hbase作类似于传统数据库的数据定义,而label列则不需要定义直接可以使用,通过这个特性可以使表结构字段动态化,从

而在数据持久层面实现动态化。对于功能独立的本身具有键值映射关系的属性则可以不使用上述的做法,而采用family列存

储键属性名称,label列存储键属性值,value列存储值属性的值的方法。这是松散模型设计可以采用的一种实践策略。

在业务服务层面分离成两个层,一个层作为数据操作层,负责对数据操作和事务处理,另一个层作为业务服务层,负责

业务逻辑的拼装、数据验证、身份验证等工作。接口设计方面要保证接口的合理性,清晰性,重用性。目前能想到的就是这

些了。

架构如图:

云计算实训总结_云计算平台实践心得相关推荐

  1. 云计算实训总结_云计算实验心得体会

    计算机实验报告 要有心得体会的 计算机实验心得体会 通过一个学期对<计算机网络实用技术>这门课程的学习,对于我来说它已不陌生. 首先对于课程安排,感觉很紧凑,几乎不遗漏任何的知识点. 理论 ...

  2. 云计算实训总结_云计算·实训报告书.doc

    单元一 云计算解决方案 1.实训记录 (1)虚拟化主要针对 存储 . 服务器 . 网络 . 软件 . 桌面 方面. (2)什么是云计算?通过网络将共享资源以服务的方式按需提供给用户的一种计算方式 (3 ...

  3. 云计算实训总结_云计算实习报告.doc

    云计算实习报告 云计算实习报告 篇一: 关于云计算的认识学习报告 学院: 计算机科学与信息学院 专业: 网络工程 姓名: 学号: 实习性质: 认识实习 班级: 实习地点: 指导教师: 成绩: 一.实习 ...

  4. 云计算实训总结_云计算实训心得

    {"moduleinfo":{"card_count":[{"count_phone":1,"count":1}],&q ...

  5. 学校云计算机室,云计算实训室简介

    云计算技术作为IT行业未来发展趋势,同时作为国家重点发展产业,正处在高速发展时期,人才需求已凸显.然而,目前云计算人才培养体系还处在初级阶段,相关专业人才缺口巨大.因此,学院在2015年投入100余万 ...

  6. 云计算实训室课程体系设计

    云计算课程体系 云计算实训课程体系设计依据 一.培养目标:为全面提高人才培养质量.扩大就业创业.推进经济转型升级.培育经济发展新动能,唯众提供云计算.大数据.人工智能等创新技术,为院校.政府.企业培养 ...

  7. 云计算实训之项目3-基于微信实现自动化监控报警

    我的服务器是阿里云里的服务器,由于服务器有限,因此以下操作都是在一台服务器上进行的,也就是我自己监控我自己,不过无伤大雅,微信报警机器人还是会报警的.下面你准备好了麻,要开始辣~ 监控环境准备 部署z ...

  8. python实训收获_英泰移动通信:学习Python心得体会

    原标题:英泰移动通信:学习Python心得体会 我今年刚毕业就去了外地开始找工作,我发现就我们学的理论知识来说能上岗的有技术含量的工作不多,所有接到的面试大部分都是让做销售,这对于我们刚毕业的学生来说 ...

  9. 计算机专业项目化教学,中职计算机专业实训课项目化教学实践探索

    中职计算机专业实训课项 目化教学实践探索 李 叶 (淮海技师学院,江苏 宿迁 223800) 摘 要:中职教育的主要教学目标与实质是培养学生的创新精神与实践能力,提高学生的毕业就业录取率,努力将学生塑 ...

  10. 项目实训-智能生物序列分析平台-药物推荐日志

    在经过与老师的探讨后,我们决定将之前创新实训的课题,继续深挖,开发一套基于人工智能模型的生物序列分析平台,内置了传统nlp模型与生物信息中的各类模型的整合,打算做到60个算法的集合,最终我们实现了两个 ...

最新文章

  1. 喜欢绘画学的计算机,为什么有的人画画非常好却对计算机一窍不通
  2. No module named ‘tensorflow.contrib‘
  3. SAP S4HANA MRP LIVE
  4. 华三交换机如何进入配置_学校机房项目交换机的如何配置,理解这篇,交换机配置不再难...
  5. 使用正则表达式小心换行和回车
  6. Tree Context Menu
  7. linux eclipse 权限不够,linux下启动eclipse 权限不够 错误解决办法
  8. 为Autodesk Infrastructure Map Server(AIMS) Mobile Viewer创建自定义控件
  9. GO语言的进阶之路-流程控制
  10. sublime 自定义快捷生成代码块
  11. hasChildNodes()
  12. 计算机win764位相机驱动,万能驱动助理win7 64位
  13. discuz内置代码
  14. mac:通过鼠标右键 新建文本文档
  15. Java 随机生成中文姓名,手机号,邮编,住址
  16. BZOJ3787 gty的文艺妹子序列 【树状数组】【分块】
  17. python模拟实现QQ邮箱登录
  18. PIC16F877A与Proteus仿真-2位7段数码管驱动
  19. 教你如何用插件加速视频播放
  20. 软件测试需要学什么,这几点一定要知道

热门文章

  1. [软件工程] 数据字典
  2. 两道图片隐写的CTF题
  3. 【LeetCode】题解合集(JavaScript版)
  4. cad刷新快捷键_实用的CAD技巧
  5. Java Filter——敏感词汇过滤
  6. 液压伺服控制技术和电液比例控制技术
  7. 高等数值计算方法第一章引论【误差,条件数】
  8. SqlServerSQL语句方式--视图创建
  9. 冷高轮时间王思聪吃热狗数字安卓版时钟下载方法
  10. java安装后在哪里打开_java安装后怎么打开教程