1. 新建IntelliJ下的maven项目

点击File->New->Project,在弹出的对话框中选择Maven,JDK选择你自己安装的版本,点击Next

2. 填写Maven的GroupIdArtifactId

你可以根据自己的项目随便填,点击Next

这样就新建好了一个空的项目

这里程序名填写WordCount,我们的程序是一个通用的网上的范例,用来计算文件中单词出现的次数

3. 设置程序的编译版本

打开Intellij的Preference偏好设置,定位到Build, Execution, Deployment->Compiler->Java Compiler,

将WordCount的Target bytecode version修改为你的jdk版本(我的是1.8)

4. 配置依赖

编辑pom.xml进行配置

1) 添加apache源

project内尾部添加

<repositories><repository><id>apache</id><url>http://maven.apache.org</url></repository>
</repositories>

2) 添加hadoop依赖

这里只需要用到基础依赖hadoop-core和hadoop-common;如果需要读写HDFS,
则还需要依赖hadoop-hdfs和hadoop-client;如果需要读写HBase,则还需要依赖hbase-client

project内尾部添加

<dependencies><dependency><groupId>org.apache.hadoop</groupId><artifactId>hadoop-core</artifactId><version>1.2.1</version></dependency><dependency><groupId>org.apache.hadoop</groupId><artifactId>hadoop-common</artifactId><version>2.7.2</version></dependency>
</dependencies>

修改pom.xml完成后,Intellij右上角会提示Maven projects need to be Imported,点击Import Changes以更新依赖,或者点击Enable Auto Import

最后,我的完整的pom.xml如下:

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"><modelVersion>4.0.0</modelVersion><groupId>com.fun</groupId><artifactId>hadoop</artifactId><version>1.0-SNAPSHOT</version><repositories><repository><id>apache</id><url>http://maven.apache.org</url></repository></repositories><dependencies><dependency><groupId>org.apache.hadoop</groupId><artifactId>hadoop-core</artifactId><version>1.2.1</version></dependency><dependency><groupId>org.apache.hadoop</groupId><artifactId>hadoop-common</artifactId><version>2.7.2</version></dependency></dependencies><build><plugins><plugin><artifactId>maven-dependency-plugin</artifactId><configuration><excludeTransitive>false</excludeTransitive><stripVersion>true</stripVersion><outputDirectory>./lib</outputDirectory></configuration></plugin></plugins></build>
</project>

5. 编写主程序

WordCount.java

/*** Created by jinshilin on 16/12/7.*/
import java.io.IOException;
import java.util.StringTokenizer;import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;public class WordCount {public static class TokenizerMapperextends Mapper<Object, Text, Text, IntWritable> {private final static IntWritable one = new IntWritable(1);private Text word = new Text();public void map(Object key, Text value, Context context) throws IOException, InterruptedException {StringTokenizer itr = new StringTokenizer(value.toString());while (itr.hasMoreTokens()) {word.set(itr.nextToken());context.write(word, one);}}}public static class IntSumReducerextends Reducer<Text, IntWritable, Text, IntWritable> {private IntWritable result = new IntWritable();public void reduce(Text key, Iterable<IntWritable> values,Context context) throws IOException, InterruptedException {int sum = 0;for (IntWritable val : values) {sum += val.get();}result.set(sum);context.write(key, result);}}public static void main(String[] args) throws Exception {Configuration conf = new Configuration();Job job = Job.getInstance(conf, "word count");job.setJarByClass(WordCount.class);job.setMapperClass(TokenizerMapper.class);job.setCombinerClass(IntSumReducer.class);job.setReducerClass(IntSumReducer.class);job.setOutputKeyClass(Text.class);job.setOutputValueClass(IntWritable.class);FileInputFormat.addInputPath(job, new Path(args[0]));FileOutputFormat.setOutputPath(job, new Path(args[1]));System.exit(job.waitForCompletion(true) ? 0 : 1);}
}

6. 配置输入和输出结果文件夹

1) 添加和src目录同级的input文件夹到项目中

在input文件夹中放置一个或多个输入文件源

我的输入文件源如下:

test.segmented:

dfdfadgdgag
aadads
fudflcl
cckcer
fadf
dfdfadgdgag
fudflcl
fuck
fuck
fuckfuck
haha
aaa

2) 配置运行参数
在Intellij菜单栏中选择Run->Edit Configurations,在弹出来的对话框中点击+,新建一个Application配置。配置Main class为WordCount(可以点击右边的...选择),

Program arguments为input/ output/,即输入路径为刚才创建的input文件夹,输出为output

由于Hadoop的设定,下次运行时务必删除output文件夹!

好了,运行程序,结果如下:

aaa 1
aadads 1
cckcer 1
dfdfadgdgag 2
fadf 1
fuck 2
fuckfuck 1
fudflcl 2
haha 1

至此,一个简单的hadoop程序完成!


IntelliJ IDEA + Maven环境编写第一个hadoop程序相关推荐

  1. 编写第一个HADOOP应用程序

    http://space.itpub.net/8183550/viewspace-686332 在MyEclipse 8.5环境下 编写了一个HADOOP小程序. 创建Java 工程 打开eclips ...

  2. eclipse编写java教程_【安装eclipse, 配置java环境教程】 编写第一个java程序

    写java通常用eclipse编写,还有一款编辑器比较流行叫IJ.这里我们只说下eclipse编写java的前期工作. 在安装eclipse之前要下载java的sdk文件,即Java SE Devel ...

  3. java程序员的大数据之路(2):创建第一个Hadoop程序

    环境 Ubuntu 16.04 + Hadoop 2.7.4 + Intellij idea 2017.2 + jdk 1.8 创建过程 新建工程 新建一个工程 输入工程名 可以随便给工程起一个名字, ...

  4. 【(Python解释器、Pycharm)安装教程】【使用PyCharm编写第一个Python程序】

    视频.源码.课件.软件.笔记:超全面Python基础入门教程[九天课程]博客笔记汇总表[黑马程序员] 目   录 1.Python 解释器 安装 1.1.手动配置环境变量步骤 2.PyCharm 程序 ...

  5. 编写第一个Java程序:helloworld

    配置好java开发环境后,我们可以编写第一个java程序(helloworld). 在开始编写java程序时,我们要知道java程序开发的三个步骤:编写.编译.运行. 编写阶段主要是由程序员编写后缀为 ...

  6. 大数据开发之在idea中开发第一个hadoop程序

    第一步 新建一个maven 项目 第二步 在pom文件中导入相应的依赖 <?xml version="1.0" encoding="UTF-8"?> ...

  7. 用记事本编写第一个Java程序运行时 出现报错:错误: 类helloworld是公共的, 应在名为 helloworld.java 的文件中声明 public class helloworld {

    在书本上盲人摸象的摸索学习Java,Java环境配置完成,安装好eclipse后,便兴冲冲的去在记事本上编写第一个Java程序,结果给破了一盆冷水,略懵 public class helloworld ...

  8. Scala基础入门(三)使用Scala IDE编写第一个Scala程序

    Scala 开发环境 Scala 是 类Java 语言, 可以在命令行运行代码: C:\Users\Administrator>scala -version Scala code runner ...

  9. 用java编写一个图书管理系统_手把手教你编写第一个java程序

    安装完jdk后我们就可以试着编写第一个java程序了,让我们一起来试试吧! 第一步 点击开始--所有程序--附件--记事本,新建记事本,输入以下代码: class HelloWorld { publi ...

最新文章

  1. 数据中心能效指标有哪些?怎么计算?
  2. Distributed TensorFlow
  3. C++STL的queue容器
  4. 你应该知道的jQuery技巧【收藏】
  5. 机器学习笔记(2):单变量线性回归
  6. vue设置输入框输入长度_Vue实现input宽度随文字长度自适应操作
  7. qt5 tcp服务器编程 多固定客户_如何编程实现电脑与智能小车通信?
  8. man 输出的帮助信息输出到文件中
  9. linux命令行下全路径显示,显示命令及文件路径用什么命令?Linux命令知识有什么...
  10. Zend Famework 2 | 如何在自定义类中使用Service Manager
  11. python turtle库下载_win10+python3.8安装turtle库
  12. Java使用for循环打印菱形
  13. Java初学者项目考核–小说管理系统
  14. php随机经纬度,PHP轻松实现附近的人功能,根据IP确定经纬度,根据经纬度计算距离...
  15. python中的repr_python中的 __repr__和__str__
  16. 希腊神话中的人物名称大全
  17. 常用的Window Dos命令
  18. 重磅 | Stratifyd入选“数据分析与商业智能平台典型供应商”
  19. Linux用户及权限管理练习
  20. python实现局域网攻击软件_使用python的scapy库进行局域网内的断网攻击(基于ARP协议)...

热门文章

  1. linux-x86_64 error,Linux-x86_64 Error: 5: Input/output error的问题
  2. 服务器文件绝对路径,服务器文件绝对路径
  3. java nextline_Java写一个学生管理系统
  4. java调用日期控件_JAVA基础应用:日期时间选择控件(代码)
  5. fastreport iif小于条件_杭州灭菌柜验证需要什么条件
  6. 不能将参数转化为lparam_如何将管理需求转化为信息化方案
  7. 没有规则可制作目标modules_Modules简介
  8. python书籍推荐1001python书籍推荐_Python的1001种骚操作——基础篇(0)
  9. linux怎么升级python2.7,linux升级python到2.7
  10. Vue中子组件如何向父组件传递数据?