apache hadoop

SpringSource 刚刚宣布了适用于Apache Hadoop的Spring的第一个GA版本 。 该项目的目的是简化基于Hadoop的应用程序的开发。

您可以下载该项目在这里 ,并检查了Maven的文物在这里 。

Apache Hadoop的Spring诞生是为了解决Hadoop应用程序构建不良的问题,该应用程序通常由命令行实用程序,脚本和代码段组成。 正如Spring项目所期望的那样,它为广泛的Hadoop生态系统项目提供了一致的编程和配置模型。

这里还包含了众所周知的Template API设计模式,因此该框架包括以下类:

  • HBase模板
  • HiveTemplate
  • 猪模板

另一个受欢迎的方面是从小规模开始发展为复杂解决方案的方法。 因此,Spring for Hadoop引入了各种Runner类,这些类允许执行Hive , Pig脚本,香草Map / Reduce或Streaming 作业 ,级联流,还可以通过熟悉的JDK Callable合同调用基于JVM的通用前后脚本 。

当事情变得越来越复杂时,升级到Spring Batch变得简单而容易。 Spring Batch丰富的功能可用于处理大文件的ETL处理,可直接转换为Hadoop用例,以从HDFS提取和导出文件。

此外,将Spring Hadoop与Spring Integration结合使用,可以对事件流进行丰富的处理,这些事件流可以在从HDFS或其他存储(例如NoSQL存储)读取和写入之前进行转换,丰富,过滤, Spring Data为此提供了很多支持。

要启动您的应用程序,您可以从提供的示例应用程序开始(已编译并可以下载)。 如果您测试Hadoop的Spring驱动器,请让我们知道并分享知识 。

编码愉快!

翻译自: https://www.javacodegeeks.com/2013/02/spring-meets-apache-hadoop.html

apache hadoop

apache hadoop_春天遇见Apache Hadoop相关推荐

  1. 春天遇见Apache Hadoop

    SpringSource 刚刚宣布了适用于Apache Hadoop的Spring的第一个GA版本 . 该项目的目的是简化基于Hadoop的应用程序的开发. 您可以下载该项目在这里 ,并检查了Mave ...

  2. apache karaf_Apache Karaf遇到Apache HBase

    apache karaf 介绍 Apache HBase是一个以Google Bigtable为蓝本的开源,分布式,版本化,面向列的商店. 如果您是普通读者,那么您可能已经知道Apache Karaf ...

  3. Caused by: org.apache.phoenix.shaded.org.apache.zookeeper.KeeperException$NoNodeException: KeeperErr

    在集群zookeeper.hdfs.hbase都开启的情况下,无法通过sqlline.py开启 phoenix,显示报错内容为 Caused by: org.apache.phoenix.shaded ...

  4. Apache软件基金会宣布Apache Unom成为顶级项目

    导读:2019年3月21日,Apache软件基金会(ASF)宣布,Apache®Unomi™成为顶级项目(TLP).Apache Unomi是一个标准的客户数据平台(CDP),它管理在线客户.线索和访 ...

  5. linux apache 负载均衡,使用Apache作为前端负载均衡器

    在某些场景中,我们需要在前端放置一个Apache作为负载均衡器,后台有若干台Apusic或者其它的类似于Tomcat/WebLogic等应用服务器,客户端发送到Apache的请求,将被分配到后台的这些 ...

  6. 禁止apache显示目录索引 apache禁止列目录

    2019独角兽企业重金招聘Python工程师标准>>> 禁止apache显示目录索引 apache禁止列目录 禁止Apache显示目录索引的常见的3种方法. 要实现禁止Apache显 ...

  7. 官宣了!Apache ECharts 毕业成为 Apache 软件基金会顶级项目!

    2021 年 1 月 26 日,德克萨斯州威明顿市 Apache 软件基金会(ASF)是 350 多个开源项目和计划的全志愿开发者.管理者和孵化者,今天宣布 Apache® ECharts™成为顶级项 ...

  8. Linux 下搭建Apache,Linux 下搭建Apache 服务器

    在开发过程中尤其实在开发web程序时,我们经常需要测试web程序是否运行·正常或者测试结果是否正确,因此我们需要有一个可以运行web程序的服务器.大家也都知道web服务器的种类很多,可以根据不同的需求 ...

  9. apache php并发数,apache查看当前并发数多少

    1.查看apache当前并发访问数:netstat -an | grep ESTABLISHED | wc -l 对比httpd.conf中MaxClients的数字差距多少. 2.查看有多少个进程数 ...

最新文章

  1. 面试官:给我一个避免消息重复消费的解决方案?
  2. 为博客园添加github跳转链接
  3. Python 删除文件中的乱码
  4. hashmap是散列表吗_一篇文章教你读懂哈希表-HashMap
  5. 光耦p621引脚图_光耦反馈设计再也不愁!开关电源中的几种典型光耦隔离接法对比...
  6. Android知识点 - 收藏集 - 掘金
  7. Scala代码案例:统计三个班成绩情况,每个班有5名同学,求出各个班的平均分和所有班级的平均分
  8. 用盛金公式求解一元三次方程
  9. Python机器学习:梯度下降法007使用scikit中的随机梯度下降法
  10. 使用BIND安装智能DNS服务器(三)---添加view和acl配置
  11. Linux用户和用户组详解
  12. MySQL的高可用实现:MySQL系列之十四
  13. 虚拟机服务器安装iis报错,Windows2008R2安装iis和iis下搭建web服务器(9.18 第七天)...
  14. Selenium自动化程序被检测为爬虫,怎么屏蔽和绕过
  15. 2015年3月TIOBE编程语言排行榜单
  16. latex 公式换行_如何在微信公众号中!编辑出漂亮的数学公式?
  17. 菜鸟进阶黑客知识整合大全(2)
  18. 气压传感器MPX4115学习笔记
  19. ArrayList这篇就够了
  20. QVW Load多个不同目录下的QVD文件

热门文章

  1. java io系列09之 FileDescriptor总结
  2. 介绍Java中的内存泄漏
  3. Java 8新特性——default方法(defender方法)介绍
  4. 大型网站架构利器-CDN技术
  5. JDK环境变量配置(一次性成功)
  6. 当当网头部和尾部——源码
  7. 2015蓝桥杯省赛---java---A---8(移动距离)
  8. ddm模型公式_简单判断目前行情——从股利贴现模型切入
  9. java流与文件——ZIP文档
  10. Redis学习之缓存穿透、缓存击穿和缓存雪崩详解