Amazon Elastic Map Reduce使用Apache Mahout计算建议
Apache Mahout是一个“可扩展的机器学习库”,其中包含各种单节点和分布式推荐算法的实现。 在我的上一篇博客文章中, 我描述了如何在单个节点上实现在线推荐系统来处理数据。 如果数据太大而无法放入内存(> 100M首选项数据点)怎么办? 然后我们别无选择,只能看一下Mahout的分布式推荐器实现!
分布式推荐器基于Apache Hadoop。 这是一项需要输入用户偏好列表,计算项目共现矩阵并为每个用户输出前K个建议的工作。 有关此博客如何工作以及如何在本地运行的介绍性博客,请参见此博客文章 。
我们当然可以在自定义的Hadoop群集上运行此作业,但是仅使用预先配置的作业(如EMR)会更快(且痛苦更少)。 但是,有一个小问题。 EMR上可用的最新Hadoop版本是1.0.3,其中包含Apache Lucene 2.9.4的jar。 但是,推荐器作业取决于Lucene 4.3.0,这将导致以下漂亮的堆栈跟踪:
2013-10-04 11:05:03,921 FATAL org.apache.hadoop.mapred.Child (main): Error running child : java.lang.NoSuchMethodError: org.apache.lucene.util.PriorityQueue.<init>(I)Vat org.apache.mahout.math.hadoop.similarity.cooccurrence.TopElementsQueue.<init>(TopElementsQueue.java:33)at org.apache.mahout.math.hadoop.similarity.cooccurrence.RowSimilarityJob$UnsymmetrifyMapper.
map(RowSimilarityJob.java:405)at org.apache.mahout.math.hadoop.similarity.cooccurrence.RowSimilarityJob$UnsymmetrifyMapper.
map(RowSimilarityJob.java:389)at org.apache.hadoop.mapreduce.Mapper.run(Mapper.java:144)at org.apache.hadoop.mapred.MapTask.runNewMapper(MapTask.java:771)at org.apache.hadoop.mapred.MapTask.run(MapTask.java:375)at org.apache.hadoop.mapred.Child$4.run(Child.java:255)at java.security.AccessController.doPrivileged(Native Method)at javax.security.auth.Subject.doAs(Subject.java:415)at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1132)at org.apache.hadoop.mapred.Child.main(Child.java:249)
如何解决呢? 好吧,我们“只是”需要在EMR Hadoop安装中更新Lucene。 我们可以为此使用引导操作 。 具体步骤如下:
- 下载lucene-4.3.0.tgz(例如从此处下载)并将其上传到S3存储桶中; 将文件公开。
- 将该脚本也上传到存储桶中; 称之为例如
update-lucene.sh
:#!/bin/bash cd /home/hadoop wget https://s3.amazonaws.com/bucket_name/bucket_path/lucene-4.3.0.tgz tar -xzf lucene-4.3.0.tgz cd lib rm lucene-*.jar cd .. cd lucene-4.3.0 find . | grep lucene- | grep jar$ | xargs -I {} cp {} ../lib
该脚本将在Hadoop节点上运行,并将更新Lucene版本。 确保更改脚本并输入正确的存储桶名称和存储桶路径,以使其指向公共Lucene存档。
- mahout-core-0.8-job.jar到存储桶
- 最后,我们需要将输入数据上传到S3。 输出数据也将保存在S3上。
- 现在,我们可以开始设置EMR作业流程。 转到Amazon控制台上的EMR页面,并开始创建新的工作流程。 我们将使用“ Amazon Distribution” Hadoop版本,并使用“ Custom JAR”作为作业类型。
- “ JAR位置”必须指向我们上载Mahout jar的位置,例如
s3n://bucket_name/bucket_path/mahout-0.8-job.jar
(请确保将其更改为指向真实的存储桶!)。 至于jar参数,我们将运行RecommenderJob
并使用对数似然性:org.apache.mahout.cf.taste.hadoop.item.RecommenderJob --booleanData --similarityClassname SIMILARITY_LOGLIKELIHOOD --output s3n://bucket_name/output --input s3n://bucket_name/input.dat
这也是指定S3上输入数据的位置以及应将输出写入何处的地方。
- 然后,我们可以选择要使用的计算机数量。 当然,这取决于输入数据的大小以及所需的结果速度。 这里主要要更改的是“核心实例组”计数。 2是测试的合理默认值。
- 我们可以保持高级选项不变
- 现在我们进入更重要的步骤之一:设置引导程序动作。 我们需要设置两个:
- 内存密集型配置(否则您会很快看到一个OOM)
- 我们的自定义update-lucene操作(路径应指向S3,例如
s3://bucket_name/bucket_path/update-lucene.sh
)
就是这样! 现在,您可以创建并运行作业流程,在几分钟/几小时/几天之后,您将在S3上等待结果。
翻译自: https://www.javacodegeeks.com/2013/10/amazon-elastic-map-reduce-to-compute-recommendations-with-apache-mahout.html
Amazon Elastic Map Reduce使用Apache Mahout计算建议相关推荐
- elastic 修改map_Amazon Elastic Map Reduce使用Apache Mahout计算建议
elastic 修改map Apache Mahout是一个"可扩展的机器学习库",其中包括各种单节点和分布式推荐算法的实现. 在上一篇博客文章中, 我描述了如何在单个节点上实现在 ...
- Apache Mahout:适合所有人的可扩展机器学习框架
原文链接:http://blog.csdn.net/gdp5211314/article/details/7173505 简介: Apache Mahout 专家 Grant Ingersoll 引领 ...
- Apache Mahout 简介 通过可伸缩、商业友好的机器学习来构建智能应用程序
在信息时代,公司和个人的成功越来越依赖于迅速有效地将大量数据转化为可操作的信息.无论是每天处理数以千计的个人电子邮件消息,还是从海量博客文章中推测用户的意图,都需要使用一些工具来组织和增强数据. 这其 ...
- Apache Mahout 简介
Apache Mahout 简介 通过可伸缩.商业友好的机器学习来构建智能应用程序 当研究院和企业能获取足够的专项研究预算之后,能从数据和用户输入中学习的智能应用程序将变得更加常见.人们对机器学习技巧 ...
- Apache Mahout:构建垃圾邮件过滤器服务器
Lucene发生了一些相当有趣的事情. 它最初是作为一个库,然后其开发人员开始基于它添加新项目. 他们开发了另一个开源项目,该项目将向Lucene添加爬网功能(以及其他功能). Nutch实际上是任何 ...
- 对云计算中几种基础设施(Dynamo,Bigtable,Map/Reduce等)的朴素看法
前言 云计算的概念近期可谓如火如荼,备受关注.我先前听到"云"这个名词时,很是觉得太过玄乎--也不知道它用在哪里,更不了解它如何实现,总有雾里看花的感觉! 好在近期工作需要的缘故, ...
- Amazon Elastic Beanstalk教程–最终指南(PDF下载)
编者注: AWS Elastic Beanstalk是Amazon Web Services提供的一项编排服务,用于部署基础架构,该基础架构协调了各种AWS服务,包括EC2,S3,简单通知服务(SNS ...
- Apache Mahout中推荐算法Slope one源码分析
2019独角兽企业重金招聘Python工程师标准>>> 关于推荐引擎 如今的互联网中,无论是电子商务还是社交网络,对数据挖掘的需求都越来越大了,而推荐引擎正是数据挖掘完美体现:通过分 ...
- Hadoop简介(1):什么是Map/Reduce
看这篇文章请出去跑两圈,然后泡一壶茶,边喝茶,边看,看完你就对hadoop整体有所了解了. Hadoop简介 Hadoop就是一个实现了Google云计算系统的开源系统,包括并行计算模型Map/Red ...
最新文章
- Hadoop数据收集与入库系统Flume与Sqoop
- Linux 的相关介绍
- python能处理多大的数据包-利用Python进行数据处理(更新)
- python横向柱状图-python画柱状图--不同颜色并显示数值的方法
- 科大星云诗社动态20201120
- WCF 使用证书认证 方法
- 八皇后问题详解(最短代码)
- 判断 小程序_怎么判断小程序开发公司靠不靠谱?
- 机器学习知识体系 (强烈推荐)
- 通信原理基础知识概括
- VS2012 Npcap使用
- MetaTrader5平台 Python
- 青果教务管理系统存储型XSS 一枚
- 解决苹果手机双击页面放大的问题
- alg 停用sip_如何关闭常用品牌的防火墙或路由器的SIP ALG功能
- 打豆豆游戏c语言编程,《C语言及程序设计》实践参考——打豆豆
- Image 图像转化为 PDF 文件
- 手机厂商“卷”到了手腕上
- virtualenv下载超时
- 2021 Google 开发者大会进行时: 汇聚开发者合力,共建全球技术生态
热门文章
- 定时任务重启后执行策略_C语言操作时间函数time.ctime,实现定时执行某个任务小例子...
- mega x_[MEGA DEAL] 2020年完整的Java Master Class Bundle(96%)
- selenium编写脚本_Selenium脚本编写技巧和窍门
- qa/qc_专业QA如何实施可靠的CI / CD管道?
- java性能监视_Java 9和应用程序性能监视的激动人心之处
- swarm 本地管理远程_带有WildFly Swarm的远程JMS
- hibernate性能_改善Hibernate应用程序性能的7种方法
- netflix_Netflix Archaius用于物业管理–基础知识
- spring bean依赖_Spring @Configuration并将bean依赖项作为方法参数注入
- java 科学计数_Java和甜蜜的科学