使用Spark Shell开发运行Spark程序

Spark Shell是一种学习API的简单途径，也是分析数据集交互的有力工具。
虽然本章还没涉及Spark的具体技术细节，但从总体上说，
Spark弹性数据集RDD有两种创建方式：
❑ 从文件系统输入（如HDFS）。
❑ 从已存在的RDD转换得到新的RDD。
现在我们从RDD入手，利用Spark Shell简单演示如何书写并运行Spark程序。
下面以word count这个经典例子来说明。
1）启动spark shell: cd进SPARK_HOME/bin，执行命令。

./spark-shell

2）进入scala命令行，执行如下命令：

scala> val file = sc.textFile("hdfs://localhost:50040/hellosparkshell")
scala> val count = file.flatMap(line => line.split(" ")).map(word => (word, 1)).
reduceByKey(_+_)
scala> count.collect()

首先从本机上读取文件hellosparkshell，然后解析该文件，最后统计单词及其数量并输出如下：

15/09/29  16:11:46  INFO  spark.SparkContext:  Job  finished:  collect  at<console>:17, took 1.624248037 s
res5: Array[(String, Int)] = Array((hello,12), (spark,12), (shell,12), (this,1),
(is,1), (chapter,1), (three,1)

使用Spark Shell开发运行Spark程序相关推荐

《循序渐进学Spark》一1.6　使用Spark Shell开发运行Spark程序
本节书摘来自华章出版社<循序渐进学Spark>一书中的第1章,第1.6节,作者小象学院杨磊,更多章节内容可以访问云栖社区"华章计算机"公众号查看. 1.6 使用S ...
启动Spark Shell,在Spark Shell中编写WordCount程序，在IDEA中编写WordCount的Maven程序，spark-submit使用spark的jar来做单词统计
1.启动Spark Shell spark-shell是Spark自带的交互式Shell程序,方便用户进行交互式编程,用户可以在该命令行下用scala编写spark程序.要注意的是要启动Spark-S ...
Spark-SQL从MySQL中加载数据以及将数据写入到mysql中（Spark Shell方式，Spark SQL程序）
1． JDBC Spark SQL可以通过JDBC从关系型数据库中读取数据的方式创建DataFrame,通过对DataFrame一系列的计算后,还可以将数据再写回关系型数据库中. 1.1．从MySQ ...
spark mysql 写_Spark-SQL从MySQL中加载数据以及将数据写入到mysql中（Spark Shell方式，Spark SQL程序）...
1． JDBC Spark SQL可以通过JDBC从关系型数据库中读取数据的方式创建DataFrame,通过对DataFrame一系列的计算后,还可以将数据再写回关系型数据库中. 1.1．从MySQ ...
spark shell中编写WordCount程序
启动hdfs 略 http://blog.csdn.net/zengmingen/article/details/53006541 启动spark 略安装:http://blog.csdn.net/ ...
spark shell的运行模式汇总
scala语言模式启动命令 local模式 spark-shell --master local yarn模式 spark-shell --master yarn standalone ...
如何利用Flutter框架开发运行小程序
Flutter 是一个非常优秀的开发框架,借助 Flutter,开发者可以在 iOS 以及 Android 平台自由地发挥创意,构建交互丰富的.精美的应用程序. Flutter产品团队透露,创建Flu ...
启动spark shell
spark集群安装教程:http://blog.csdn.net/zengmingen/article/details/72123717 启动spark shell. 在spark安装目录bin文件夹 ...
maven依赖 spark sql_Spark开发实例
本文将介绍如何实际动手进行 RDD 的转换与操作,以及如何编写.编译.打包和运行 Spark 应用程序. 启动 Spark Shell Spark 的交互式脚本是一种学习 API 的简单途径,也是分析 ...

使用Spark Shell开发运行Spark程序

使用Spark Shell开发运行Spark程序

使用Spark Shell开发运行Spark程序相关推荐

最新文章

热门文章