一、实验环境

  1. 虚拟机操作系统:
  • Ubuntu 18.04.6
  1. 虚拟机硬件配置:
  • CPU:4
  • 内存:4GB
  • 磁盘:50GB
  1. 虚拟机主机名/IP:
  • huyu/192.168.253.312

二、Spark配置环境截图

1. Spark若干关键配置文件的截图(Java, Scala, Python)

  • Java成功安装的截图如下:

  • SDKMAN成功安装的截图如下:

  • Scala成功安装的截图如下:

  • Python成功安装的截图如下:

2. Spark成功启动的截图(./spark-shell)

三、GMM执行结果截图

1. 任务提交以后,Spark执行过程的截图

2. 任务完成后,打印结果的截图

四、拓展实验:Scala GMM

1. 打印预测的结果

2. 查看模型相关参数

五、拓展实验:Spark独立部署模式(Standalone)

  1. 如下图所示,在Master虚拟机上执行jps命令可以看到Jps、Master、Worker三个进程,在Slave虚拟机上可以看到Jps、Worker两个进程,说明Spark集群启动成功。

  2. 执行结果如下图所示。

六、思考(注:画图说明,并分析原因)

Spark Local模式和Standalone模式执行同一任务时间比较(画图或列表)

模式 节点个数 开始时间 结束时间 执行时间/S 同一任务花费/S
Local 1 03:39:48 03:39:58 10 0.7928
Standalone 2 07:13:19 07:13:34 15 1.5729

理想情况下N台机器的执行时间为单机的1/N倍。对照自己的实验结果,并分析原因。

答:从理论上来讲,N台机器的执行时间为单机的1/N倍,但是从上述的实验结果中来看,Standalone模式下的执行时间反而更长一点。究其原因,是因为Standalone模式在Task调度方面通常比Local模式低效——因为Local模式下所有程序都运行在一个进程里面,因此大部分只涉及到了进程内通信,而Standalone模式下的通信需要借助网络。而且,就本次实验所使用的例子而言,T ask执行时间非常短,因此把Task调度引起的额外开销放大了。从上述分析来看,Standalone模式主要是针对无法在单机处理的大数据来设计的,而简单的程序很可能单机下反而更快。

Spark与大数据处理技术实践相关推荐

  1. Spark 大数据处理最佳实践

    开源大数据社区 & 阿里云 EMR 系列直播 第十一期 主题:Spark 大数据处理最佳实践 讲师:简锋,阿里云 EMR 数据开发平台 负责人 内容框架: 大数据概览 如何摆脱技术小白 Spa ...

  2. 《深入理解大数据:大数据处理与编程实践》一一1.2 大数据处理技术简介

    本节书摘来自华章计算机<深入理解大数据:大数据处理与编程实践>一书中的第1章,第1.2节,作者 主 编:黄宜华(南京大学)副主编:苗凯翔(英特尔公司),更多章节内容可以访问云栖社区&quo ...

  3. 纯前端大数据处理技术:葡萄城纯前端开发工具应用实践

    SpreadJS 是一款基于 HTML5 的纯 JavaScript 电子表格和网格功能控件,满足多平台.跨平台的表格数据处理和类 Excel 的表格应用开发. WijmoJS 前端开发工具包由多款纯 ...

  4. 《大数据处理技术Spark》--林子雨

    从林子雨老师的网课上学到的东西,林老师讲的特别清晰,记录一下,防止忘记. 以下是资料的链接: hadoop安装 课程 课件链接 其他资料: Spark-SQL之DataFrame操作大全 文章目录 1 ...

  5. 【大数据处理技术】第三篇 大数据处理与分析(暂停更新)

    大数据分析与处理 第7章 MapReduce 7.1 概述 7.1.1 分布式并行编程 7.1.2 MapReduce 模型简介 7.1.3 Map 和 Reduce 函数 7.2 Mapreduce ...

  6. 关于大数据技术的演讲_大数据核心技术介绍:大数据处理技术

    大数据之所以能够从概念走向落地,说到底还是因为大数据处理技术的成熟,面对海量的数据,在有限的硬件条件下,以低成本满足大数据处理的各种实际需求.那么具体处理大数据需要哪些技术,今天我们来简单介绍一下大数 ...

  7. 大数据处理技术之hadoop概览

    上两个图,可以对热到极致的大数据处理技术有一个基本的认识 大数据处理技术之演进 大数据处理技术之hadoop软件族: hadoop 1 hadoop2 相关软件下面简介: 1 Ambari:Hadoo ...

  8. 大数据处理技术导论(8) | Datawhale组队学习46期

    文章目录 10. 1 面试题 10.1.1 hive外部表和内部表的区别 10.1.2 简述对Hive桶的理解? 10.1.3 HBase和Hive的区别? 10.1.4 简述Spark宽窄依赖 10 ...

  9. NLPIR大数据处理技术实现多种类智能挖掘

    当今,信息技术为人类步入智能社会开启了大门,带动了互联网.物联网.电子商务.现代物流.网络金融等现代服务业发展,催生了车联网.智能电网.新能源.智能交通.智能城市.高端装备制造等新兴产业发展.现代信息 ...

最新文章

  1. 一分钟详解initUndistortRectifyMap函数bug修复方法
  2. python爬虫成果_Python爬虫(小练习)
  3. 在C 函数中保存状态:registry、reference和upvalues
  4. visual basic6.0企业版
  5. The Tao to Excellent
  6. android ifw 启动广告,使用 IFW 完全控制 Android 应用行为 | 实用技巧
  7. 天池 在线编程 LR String
  8. MySQL行锁 表锁理解
  9. 无法用php smtp发送邮件. 您的服务器可能没有配置用此方法_补充:Web自动化邮件发送...
  10. 7.72GB ARCGIS ERDAS ENVI干货教程网盘下载
  11. 如何在 macOS 上安装Axure RP
  12. NOIP2016普及组T2(回文日期)题解
  13. 用photoshop将图片不失真的放大
  14. 盗版xp成功验证成正版,享受正版增值服务!
  15. 创业投资——创新工场
  16. 公告抄袭我文章的掘金账号:[freesan44](https://juejin.cn/user/1063982986970984) 和公众号:小集
  17. Java获取国内手机号码归属地
  18. Graphite系统监控
  19. Windows环境下修改redis默认端口和密码,以及启动方式
  20. debezium怎么实现全量表和binlog的无缝对接

热门文章

  1. 用python计算圆周率_用python计算圆周率PI
  2. 转载--[数据库] MySQL汉字字段按拼音排序
  3. tpwr886n路由器设置虚拟服务器,tl-wr886n路由器设置步骤图解 | 192路由网
  4. pmon 源码分析之start.S
  5. Tomcat指定war包路径部署
  6. 判断输入的年份是不是闰年
  7. Android TV开发 焦点返回ListView时, 返回到离开时的位置
  8. 绘制管理组织结构图方法介绍
  9. 寂寞了吗?来用python做点好玩的事
  10. 来吧,原生JavaScript实现JQury.js