//第一步,给RDD中的每个key都打上一个随机前缀。JavaPairRDDrandomPrefixRdd=rdd.mapToPair(newPairFunction,String,Long>(){privatestaticfinallon...

// 第一步,给RDD中的每个key都打上一个随机前缀。

JavaPairRDD randomPrefixRdd = rdd.mapToPair(

new PairFunction, String, Long>() {

private static final long serialVersionUID = 1L;

@Override

public Tuple2 call(Tuple2 tuple)throws Exception

{

Random random = new Random();

int prefix = random.nextInt(10);

return new Tuple2(prefix + "_" + tuple._1, tuple._2);

}

});

// 第二步,对打上随机前缀的key进行局部聚合。

JavaPairRDD localAggrRdd = randomPrefixRdd.reduceByKey(

new Function2() {

private static final long serialVersionUID = 1L;

@Override

public Long call(Long v1, Long v2) throws Exception {

return v1 + v2;

}

});

// 第三步,去除RDD中每个key的随机前缀。

JavaPairRDD removedRandomPrefixRdd = localAggrRdd.mapToPair(

new PairFunction, Long, Long>() {

private static final long serialVersionUID = 1L;

@Override

public Tuple2 call(Tuple2 tuple)

throws Exception {

long originalKey = Long.valueOf(tuple._1.split("_")[1]);

return new Tuple2(originalKey, tuple._2);

}

});

// 第四步,对去除了随机前缀的RDD进行全局聚合。

JavaPairRDD globalAggrRdd = removedRandomPrefixRdd.reduceByKey(

new Function2() {

private static final long serialVersionUID = 1L;

@Override

public Long call(Long v1, Long v2) throws Exception {

return v1 + v2;

}

});

展开

java call_求问java代码中的call是什么意思?相关推荐

  1. java 不要使用魔法值_Java代码中的魔法值

    所谓魔法值,是指在代码中直接出现的数值,只有在这个数值记述的那部分代码中才能明确了解其含义. 1. 前言 重构老代码中遇到了不少类似下面这种写法: public void attend(String ...

  2. java.library.path属性在代码中设置不生效问题

    http://www.blogjava.net/gembin/archive/2008/10/29/237377.html from http://daimojingdeyu.blogbus.com/ ...

  3. java异常统一处理_Java 代码中的全局异常处理

    最近接手一个新项目,写用例的时候去翻看代码,发现部分代码里缺少基本的异常处理,包括对参数异常以及业务异常的处理.对照之前负责过的异常处理做得比较好的项目,给开发提了几点建议,顺便又去翻看了之前项目的代 ...

  4. 如何应对java服务器宕机_代码中如何应对缓存服务器宕机的情况

    今天在演练这样一个场景--假如所有缓存服务器都宕机,而且不能很快恢复,并且假设数据库服务器能够支撑,在代码中如何应对这样的情况? 之前的做法是在读缓存的地方捕获异常并写入日志,然后直接从数据库读取数据 ...

  5. java 时间段求并集,java集合操作-----求两个集合的交集和并集

    2019独角兽企业重金招聘Python工程师标准>>> java求两个集合的交集和并集 java如何求两个集合的交集和并集呢??其实java的API中已经封装了方法.今天写个简单的例 ...

  6. java元素符号是什么_Java 代码中 @ 符号是什么意思?

    展开全部 annotation. Annotation,是Java5的新特性,下面是Sun的Tutorial的描述,因为是英文,这里我翻译下,希望能够比较清晰323131333532363134313 ...

  7. java程序优化快捷键_Java 代码中针对性能优化的总结方案

    在一个好的项目中代码优化是永远离不开的话题,如果有充足的时间开发和维护代码,必须考虑每个可以优化的细节,日积月累,项目的质量才会上升,代码优化是绝对有必要的工作.代码优化的主要目的是减少代码块,提升代 ...

  8. java ip 白名单_Java代码中对IP进行白名单验证

    public classipUtil {//IP的正则,这个正则不能验证第一组数字为0的情况//private static Pattern pattern = Pattern//.compile(& ...

  9. java recordset_使用VBA Excel代码中的RecordSet数据创建图表

    我同意@ChipsLetten 1.-从SQL你可以使用这样的东西: ---- This is the sum for each day SELECT t.DOT, SUM(t.Amount) --- ...

最新文章

  1. 深度语义模型以及在淘宝搜索中的应用
  2. android调服务不更新,android – OnUpdate()不调用小部件服务
  3. 【编程之美】3.5 最短摘要的生成
  4. Android之项目全部能正常登录但是部分资源没有显示成功的解决办法
  5. php json -gt;访问,【转】Php+ajax+jsonp解决ajax跨域问题
  6. POJ2373-Dividing the Path【单调队列优化dp】
  7. 前端学到什么程度可以找到工作?
  8. 20145120 《Java程序设计》实验一实验报告
  9. 【系列三之CentOS系列】Shell编程入门(3)
  10. 【VSCode PlatformIO】 STC单片机开发头文件制作与添加方法
  11. 如何解决No EPCS layout data --- looking for section [EPCS-XXXXXX]
  12. 简单版,客户端和服务端使用websocket进行连接通信
  13. CentOS 7无法启动,在进度条卡死问题解决
  14. Android加密之全盘加密详解
  15. 昭阳区计算机学校,昭阳区高级职业中学
  16. 全国大学生计算机技能应用(2020年)——C++科目决赛程序设计题解
  17. Xposed微信支付宝个人免签收款
  18. GMP与ERP 手心与手背(转)
  19. 华为发布新一代全屋智能解决方案,80平39999元起。你心动了吗?
  20. 我 老 逛 没 有 开 挂 !

热门文章

  1. tar命令中参数 cvf,xvf,cvzf,zxvf的区别
  2. cubic 如何用matlab,求助高手解决cubic绘图问题
  3. 在Word中利用日历向导查农历
  4. 硬盘内部传输速率和外部传输速率的区别
  5. 机器学习-训练了一个高效快速识别身份证正面关键信息的模型
  6. iOS 屏幕旋转监听
  7. MOS管开关速度相关参数
  8. 表达式运算(包含大整数加减乘)
  9. 「MySQL」- 基础增删改查
  10. IntelliJ IDEA 2018.3 安装+永久激活[Windows]