https://dblab.xmu.edu.cn/blog/2400/

实验内容

环境搭建

pip3 install bottle

数据预处理

本次项目使用的数据集来自知名数据网站 Kaggle 的 tmdb-movie-metadata 电影数据集,该数据集包含大约 5000 部电影的相关数据。本次实验使用数据集中有关电影的数据表 tmdb_5000_movies.csv 进行实验。数据包含以下字段:

字段名称 解释 例子
budget 预算 10000000
genres 体裁 "[{""id"": 18, ""name"": ""Drama""}]"
homepage 主页 ""
id id 268238
keywords 关键词 "[{""id"": 14636, ""name"": ""india""}]"
original_language 原始语言 en
original_title 原标题 The Second Best Exotic Marigold Hotel
overview 概览 As the Best Exotic Marigold Hotel ...
popularity 流行度 17.592299
production_companies 生产公司 "[{""name"": ""Fox Searchlight Pictures"", ""id"": 43}, ...]"
production_countries 生产国家 "[{""iso31661"": ""GB"", ""name"": ""United Kingdom""}, ...]"
release_date 发行日期 2015-02-26
revenue 盈收 85978266
runtime 片长 122
spoken_languages 语言 "[{""iso6391"": ""en"", ""name"": ""English""}]"
status 状态 Released
tagline 宣传语 ""
title 标题 The Second Best Exotic Marigold Hotel
vote_average 平均分 6.3
vote_count 投票人数 272

由于数据中某些字段包含 json 数据,因此直接使用 DataFrame 进行读取会出现分割错误,所以如果要创建 DataFrame,需要先直接读取文件生成 RDD,再将 RDD 转为 DataFrame。过程中,使用 python3 中的 csv 模块对数据进行解析和转换。

为了更方便的对 csv 文件转化的 RDD 进行处理,需要首先去除csv文件的标题行。完成后,将处理好的文件 tmdb_5000_movies.csv 存储到 HDFS 上方便进一步的处理,使用下面命令将文件上传至 HDFS:

# 启动Hadoop
cd /usr/local/hadoop
./sbin/start-dfs.sh
# 在HDFS文件系统中创建/OverDue目录
./bin/hdfs dfs -mkdir /data
# 上传文件到HDFS文件系统中
./bin/hdfs dfs -put ~/tmdb_5000_movies.csv  #这里和原po不一样,以本博客为准

此时文件在 HDFS 上的路径为 /user/hadoop/tmdb_5000_movies.csv。之后在程序中,使用下面语句即可读取该文件:

sc.textFile(tmdb_5000_movies.csv)

使用 Spark 将数据转为 DataFrame

关键路径:

hdfs://localhost:8020/user/hadoop/tmdb_5000_movies.csv

为了创建 DataFrame,首先需要将 HDFS 上的数据加载成 RDD,再将 RDD 转化为 DataFrame。下面代码段完成从文件到 RDD 再到 DataFrame 的转化:
下面代码段完成从文件到 RDD 再到 DataFrame 的转化:

from pyspark import SparkContext
from pyspark.sql import SparkSession, Row
from pyspark.sql.types import StringType, StructField, StructType
import json # 用于后面的流程
import csv# 1. 创建 SparkSession 和 SparkContext 对象
sc = SparkContext('local', 'spark_project')
sc.setLogLevel('WARN') # 减少不必要的 LOG 输出
spark = SparkSession.builder.getOrCreate()# 2. 为 RDD 转为 DataFrame 创建 schema
schemaString = "budget,genres,homepage,id,keywords,original_language,original_title,overview,popularity,production_companies,production_countries,release_date,revenue,runtime,spoken_languages,status,tagline,title,vote_average,vote_count"
fields = [StructField(field, StringType(), True)for field in schemaString.split(")]
schema = StructType(fields)# 3. 对于每一行用逗号分隔的数据,使用 csv 模块进行解析并转为 Row 对象,得到可以转为 DataFrame 的 RDD
moviesRdd = sc.textFile('tmdb_5000_movies.csv').map(lambda line: Row(*next(csv.reader([line]))))# 4. 使用 createDataFrame 创建 DataFrame
mdf = spark.createDataFrame(moviesRdd, schema)

上述代码完成 4 件事:
首先,创建 SparkSession 和 SparkContext 对象。
然后,为 RDD 转为 DataFrame 制作表头 (schema)。schema 是一个 StructType 对象,该对象使用一个 StructField 数组创建。
每一个 StructField 都代表结构化数据中的一个字段,构造 StructField 需要 3 个参数

  1. 字段名称
  2. 字段类型
  3. 字段是否可以为空
    下面是这些对象的结构关系:
StructType([StructField(name, type, null), ..., StructField(name, type, null)])

接着,开始创建用于转为 DataFrame 的 RDD。这个过程首先读取 HDFS 上的数据文件,然后为了将 RDD 转为 DataFrame,还需要将数据的每一行转为一个 Row 对象。
这个过程首先使用 csv 模块进行解析,得到一个包含每个字段的迭代器:

csv.reader([line]) # 这里 [line] 表示包含一行数据的数组

然后使用 next 函数将迭代器中的数据读取到数组中:

next(csv.reader([line]))

最后使用 * 将数组转为 Row 对象的构造函数参数,创建 Row 对象:

Row(*next(csv.reader([line])))

至此,moviesRdd 中每一行为一个 Row 对象。
最后,通过 SparkSession 接口 createDataFrame ,使用准备好的表头 (schema) 和 RDD 创建 DataFrame:

mdf = spark.createDataFrame(moviesRdd, schema)

至此完成 DataFrame 的创建。

使用 Spark 进行数据分析

下面使用通过 Spark 处理得到的 DataFrame mdf 进行数据分析,首先对数据中的主要字段单独进行分析(概览小节),然后再分析不同字段间的关系(关系小节)。
为了方便进行数据可视化,每个不同的分析,都将分析结果导出为 json 文件由 web 页面读取并进行可视化。导出直接使用下面的 save 函数:

def save(path, data):with open(path, 'w') as f:f.write(data)

该函数向 path 中写入 data。
下面分别介绍各个分析的生成过程。

1.概览

这个部分对数据进行整体的分析。

1. TMDb 电影中的体裁分布

从上面的数据字典描述可以看出,电影的体裁字段是一个 json 格式的数据,因此,为了统计不同体裁的电影的数量,需要首先解析 json 数据,从中取出每个电影对应的体裁数组,然后使用词频统计的方法统计不同体裁出现的频率,即可得到电影的体裁分布。
首先实现一个函数 countByJson(field) ,该函数实现解析 json 格式字段从中提取出 name 并进行词频统计的功能:

def countByJson(field):return mdf.select(field).filter(mdf[field] != '').rdd.flatMap(lambda g: [(v, 1) for v in map(lambda x: x['name'], json.loads(g[field]))]).repartition(1).reduceByKey(lambda x, y: x + y)

该函数返回一个 RDD,整个过程如下所示。

基于这个函数实现 countByGenres 用来生成不同体裁的电影数统计结果:

def countByGenres():res = countByJson("genres").collect()return list(map(lambda v: {"genre": v[0], "count": v[1]}, res))

这个函数调用 countByJson 得到频率统计结果,并将其转为 json 数据格式并返回,方便进行可视化。最终函数返回数据格式如下:

[{"genre": ...,"count": ...
}, {"genre": ...,"count": ...
}, ...]

接着,使用下面代码进行数据导出至 genres.json 方便之后进行可视化

save('genres.json', json.dumps(countByGenres())) # 确保 json 包已导入
2. 前 100 个常见关键词

该项分析电影关键词中出现频率最高的前一百个。由于关键词字段也是 json 格式数据,因此调用 countByJson 进行频率统计,同时对于统计结果进行降序排序并取前 100 项即可:

def countByKeywords():res = countByJson("keywords").sortBy(lambda x: -x[1]).take(100)return list(map(lambda v: {"x": v[0], "value": v[1]}, res))

最终该函数返回 json 数据格式如下:

[{"x": ...,"value": ...
}, {"x": ...,"value": ...
}, ...]

接着,使用下面代码将数据导出至 keywords.json 方便之后进行可视化

save('keywords.json', json.dumps(countByKeywords()))
3. TMDb 中最常见的 10 种预算数

这一项探究电影常见的预算数是多少,因此需要对电影预算进行频率统计,代码如下:

def countByBudget(order='count', ascending=False):return mdf.filter(mdf["budget"] != 0).groupBy("budget").count().orderBy(order, ascending=ascending).toJSON().map(lambda j: json.loads(j)).take(10)

首先,需要对预算字段进行过滤,去除预算为 0 的项目,然后根据预算聚合并计数,接着根据计数进行排序,并将结果导出为 json 字符串,为了统一输出,这里将 json 字符串转为 python 对象,最后取前 10 项作为最终的结果。
最终该函数返回 json 数据格式如下:

[{"budget": ...,"count": ...
}, {"budget": ...,"count": ...
}, ...]

接着,使用下面代码进行数据导出至 budget.json 方便之后进行可视化

save('budget.json', json.dumps(countByBudget()))
4. TMDb 中最常见电影时长 (只展示电影数大于 100 的时长)

这一项统计 TMDb 中最常见的电影时长,首先,需要过滤时长为 0 的电影,然后根据时长字段聚合并计数,接着过滤掉出现频率小于 100 的时长 (这一步是为了方便可视化,避免过多冗余信息)得到最终的结果。

def distrbutionOfRuntime(order='count', ascending=False):return mdf.filter(mdf["runtime"] != 0).groupBy("runtime").count().filter('count>=100').toJSON().map(lambda j: json.loads(j)).collect()

最终该函数返回 json 数据格式如下:

[{"runtime": ...,"count": ...
}, {"runtime": ...,"count": ...
}, ...]

接着,使用下面代码进行数据导出至 runtime.json 方便之后进行可视化

save('runtime.json', json.dumps(distrbutionOfRuntime()))
5. 生产电影最多的 10 大公司

这一项统计电影产出最多的 10 个公司,同样使用 countByJson 对 JSON 数据进行频率统计,然后进行降序排列取前 10 项即可。

def countByCompanies():res = countByJson("production_companies").sortBy(lambda x: -x[1]).take(10)return list(map(lambda v: {"company": v[0], "count": v[1]}, res))

最终该函数返回 JSON 数据格式如下:

[{"company": ...,"count": ...
}, {"company": ...,"count": ...
}, ...]

接着,使用下面代码进行数据导出至 company_count.json 方便之后进行可视化

save('company_count.json', json.dumps(countByCompanies()))
6. TMDb 中的 10 大电影语言

该项统计 TMDb 中出现最多的语言,与前面类似,该字段也是 JSON 数据,因此首先对每个项目进行词频统计,然后过滤掉语言为空的项目,最后排序取前十即可。

def countByLanguage():res = countByJson("spoken_languages").filter(lambda v: v[0] != '').sortBy(lambda x: -x[1]).take(10)return list(map(lambda v: {"language": v[0], "count": v[1]}, res))

最终该函数返回 json 数据格式如下:

[{"language": ...,"count": ...
}, {"language": ...,"count": ...
}, ...]

接着,使用下面代码进行数据导出至 language.json 方便之后进行可视化

save('language.json', json.dumps(countByLanguage()))

2.关系

这个部分考虑数据之间的关系。

1. 预算与评价的关系

这部分考虑预算与评价之间的关系,因此对于每个电影,需要导出如下的数据:

[电影标题,预算,评价]

基于 DataFrame 对数据进行字段过滤即可:

def budgetVote():return mdf.select("title", "budget", "vote_average").filter(mdf["budget"] != 0).filter(mdf["vote_count"] > 100).collect()

这里还要注意过滤掉预算为空的数据,同时,结果只保留了投票数大于 100 的数据确保公平。
得到的数据存储在 budget_vote.json 中:

save('budget_vote.json', json.dumps(budgetVote()))
2. 发行时间与评价的关系

这部分考虑发行时间与评价之间的关系,因此对于每个电影,需要导出如下的数据:

[电影标题,发行时间,评价]

基于 DataFrame 对数据进行字段过滤即可:

def dateVote():return mdf.select(mdf["release_date"], "vote_average", "title").filter(mdf["release_date"] != "").filter(mdf["vote_count"] > 100).collect()

这里还是要注意过滤掉发行时间为空的数据,保留投票数大于 100 的数据。
得到的数据存储在 date_vote.json 中:

save('date_vote.json', json.dumps(dateVote()))
3. 流行度和评价的关系

这部分考虑流行度与评价之间的关系,因此对于每个电影,需要导出如下的数据:

[电影标题,流行度,评价]

基于 DataFrame 对数据进行字段过滤即可:

def popVote():return mdf.select("title", "popularity", "vote_average").filter(mdf["popularity"] != 0).filter(mdf["vote_count"] > 100).collect()

同时,过滤掉流行度为 0 的数据,保留投票数大于 100 的数据。
得到的数据存储在 pop_vote.json 中:

save('pop_vote.json', json.dumps(popVote()))
4. 公司生产的电影平均分和数量的关系

这部分计算每个公司生产的电影数量及这些电影的平均分分布。首先,需要对数据进行过滤,去掉生产公司字段为空和评价人数小于 100 的电影,然后对于每一条记录,得到一条如下形式的记录:

[公司名,(评分,1)]

接着将所有记录的评分和计数累加,最后用总评分除以计数得到一个公司的平均评分及电影数,整个过程如下所示。

def moviesVote():return mdf.filter(mdf["production_companies"] != '').filter(mdf["vote_count"] > 100).rdd.flatMap(lambda g: [(v, [float(g['vote_average']), 1]) for v in map(lambda x: x['name'], json.loads(g["production_companies"]))]).repartition(1).reduceByKey(lambda x, y: [x[0] + y[0], x[1] + y[1]]).map(lambda v: [v[0], v[1][0] / v[1][1], v[1][1]]).collect()

将得到的数据存储在 movies_vote.json 中:

save('movies_vote.json', json.dumps(moviesVote()))
5. 电影预算和营收的关系

这部分考虑电影的营收情况,因此对于每个电影,需要导出如下的数据:

[电影标题,预算,收入]

基于 DataFrame 对数据进行字段过滤即可:

def budgetRevenue():return mdf.select("title", "budget", "revenue").filter(mdf["budget"] != 0).filter(mdf['revenue'] != 0).collect()

过滤掉预算,收入为 0 的数据。
得到的数据存储在 budget_revenue.json 中:

save('budget_revenue.json', json.dumps(budgetRevenue()))

3.整合调用

最后,将上面的过程整合起来方便进行调用,因此在 analyst.py 中添加 main 函数:

if __name__ == "__main__":m = {"countByGenres": {"method": countByGenres,"path": "genres.json"},"countByKeywords": {"method": countByKeywords,"path": "keywords.json"},"countByCompanies": {"method": countByCompanies,"path": "company_count.json"},"countByBudget": {"method": countByBudget,"path": "budget.json"},"countByLanguage": {"method": countByLanguage,"path": "language.json"},"distrbutionOfRuntime": {"method": distrbutionOfRuntime,"path": "runtime.json"},"budgetVote": {"method": budgetVote,"path": "budget_vote.json"},"dateVote": {"method": dateVote,"path": "date_vote.json"},"popVote": {"method": popVote,"path": "pop_vote.json"},"moviesVote": {"method": moviesVote,"path": "movies_vote.json"},"budgetRevenue": {"method": budgetRevenue,"path": "budget_revenue.json"}}base = "static/" # 生成文件的 base 目录if not os.path.exists(base): # 如果目录不存在则创建一个新的os.mkdir(base)for k in m: # 执行上述所有方法p = m[k]f = p["method"]save(base + m[k]["path"], json.dumps(f()))print ("done -> " + k + " , save to -> " + base + m[k]["path"])

上面代码将所有的函数整合在变量 m中,然后通过循环调用上述所有方法并导出json文件。

4.完整代码

from pyspark import SparkContext
from pyspark.sql import SparkSession, Row
from pyspark.sql.types import StringType, StructField, StructType
import json
import csv
import ossc = SparkContext('local', 'spark_project')
sc.setLogLevel('WARN')
spark = SparkSession.builder.getOrCreate()schemaString = "budget,genres,homepage,id,keywords,original_language,original_title,overview,popularity,production_companies,production_countries,release_date,revenue,runtime,spoken_languages,status,tagline,title,vote_average,vote_count"
fields = [StructField(field, StringType(), True)for field in schemaString.split(",")]
schema = StructType(fields)moviesRdd = sc.textFile('hdfs://localhost:8020/user/hadoop/tmdb_5000_movies.csv').map(lambda line: Row(*next(csv.reader([line]))))
mdf = spark.createDataFrame(moviesRdd, schema)def countByJson(field):return mdf.select(field).filter(mdf[field] != '').rdd.flatMap(lambda g: [(v, 1) for v in map(lambda x: x['name'], json.loads(g[field]))]).repartition(1).reduceByKey(lambda x, y: x + y)# 体裁统计def countByGenres():res = countByJson("genres").collect()return list(map(lambda v: {"genre": v[0], "count": v[1]}, res))# 关键词词云def countByKeywords():res = countByJson("keywords").sortBy(lambda x: -x[1]).take(100)return list(map(lambda v: {"x": v[0], "value": v[1]}, res))# 公司电影产出数量def countByCompanies():res = countByJson("production_companies").sortBy(lambda x: -x[1]).take(10)return list(map(lambda v: {"company": v[0], "count": v[1]}, res))# 预算统计def countByBudget(order='count', ascending=False):return mdf.filter(mdf["budget"] != 0).groupBy("budget").count().orderBy(order, ascending=ascending).toJSON().map(lambda j: json.loads(j)).take(10)# 语言统计def countByLanguage():res = countByJson("spoken_languages").filter(lambda v: v[0] != '').sortBy(lambda x: -x[1]).take(10)return list(map(lambda v: {"language": v[0], "count": v[1]}, res))# 电影时长分布 > 100 mindef distrbutionOfRuntime(order='count', ascending=False):return mdf.filter(mdf["runtime"] != 0).groupBy("runtime").count().filter('count>=100').toJSON().map(lambda j: json.loads(j)).collect()# 预算评价关系def budgetVote():return mdf.select("title", "budget", "vote_average").filter(mdf["budget"] != 0).filter(mdf["vote_count"] > 100).collect()# 上映时间评价关系def dateVote():return mdf.select(mdf["release_date"], "vote_average", "title").filter(mdf["release_date"] != "").filter(mdf["vote_count"] > 100).collect()# 流行度评价关系def popVote():return mdf.select("title", "popularity", "vote_average").filter(mdf["popularity"] != 0).filter(mdf["vote_count"] > 100).collect()# 电影数量和评价的关系
def moviesVote():return mdf.filter(mdf["production_companies"] != '').filter(mdf["vote_count"] > 100).rdd.flatMap(lambda g: [(v, [float(g['vote_average']), 1]) for v in map(lambda x: x['name'], json.loads(g["production_companies"]))]).repartition(1).reduceByKey(lambda x, y: [x[0] + y[0], x[1] + y[1]]).map(lambda v: [v[0], v[1][0] / v[1][1], v[1][1]]).collect()# 预算和营收的关系
def budgetRevenue():return mdf.select("title", "budget", "revenue").filter(mdf["budget"] != 0).filter(mdf['revenue'] != 0).collect()def save(path, data):with open(path, 'w') as f:f.write(data)if __name__ == "__main__":m = {"countByGenres": {"method": countByGenres,"path": "genres.json"},"countByKeywords": {"method": countByKeywords,"path": "keywords.json"},"countByCompanies": {"method": countByCompanies,"path": "company_count.json"},"countByBudget": {"method": countByBudget,"path": "budget.json"},"countByLanguage": {"method": countByLanguage,"path": "language.json"},"distrbutionOfRuntime": {"method": distrbutionOfRuntime,"path": "runtime.json"},"budgetVote": {"method": budgetVote,"path": "budget_vote.json"},"dateVote": {"method": dateVote,"path": "date_vote.json"},"popVote": {"method": popVote,"path": "pop_vote.json"},"moviesVote": {"method": moviesVote,"path": "movies_vote.json"},"budgetRevenue": {"method": budgetRevenue,"path": "budget_revenue.json"}}base = "static/"if not os.path.exists(base):os.mkdir(base)for k in m:p = m[k]f = p["method"]save(base + m[k]["path"], json.dumps(f()))print ("done -> " + k + " , save to -> " + base + m[k]["path"])# save("test.jj", json.dumps(countByGenres()))

5.数据分析结果


以下为json格式的数据处理结果:

数据可视化

数据可视化基于阿里开源的数据可视化工具 G2 实现。G2 是一套基于可视化编码的图形语法,以数据驱动,具有高度的易用性和扩展性,用户无需关注各种繁琐的实现细节,一条语句即可构建出各种各样的可交互的统计图表。下面以 TMDb 中电影的体裁分布为例说明可视化过程。
首先使用 python Web 框架 bottle 访问可视化页面方便进行 json 数据的读取。使用下面代码web.py 可以实现一个简单的静态文件读取:

import bottle
from bottle import route, run, static_file
import json@route('/static/<filename>')
def server_static(filename):return static_file(filename, root="/home/hadoop/jupyternotebook/static")@route("/<name:re:.*\.html>")
def server_page(name):return static_file(name, root=".")@route("/")
def index():return static_file("index.html", root=".")run(host="0.0.0.0", port=9996)

bottle 对于接收到的请求进行路由

  1. 对于 web 服务启动目录中 static 文件夹下的文件,直接返回对应文件名的文件;
  2. 对于启动目录下的 html 文件,也返回对应的页面。
  3. 直接访问本机的 9999 端口,则返回主页。
    最后,将 web 服务绑定到本机的 9999 端口。根据上面的实现,对于 web 页面 (html 文件),直接放在服务启动的目录下,对于 Spark 分析的结果,则保存在 static 目录下。
    接下来实现主页文件 index.html。
<!DOCTYPE html>
<html lang="en"><head><meta charset="UTF-8"><meta name="viewport" content="width=device-width,height=device-height"><title>TMDb 电影数据分析</title><style>/* 这里省略 */</style>
</head><body><div class="container"><h1 style="font-size: 40px;"># TMDb Movie Data Analysis <br> <small style="font-size: 55%;color: rgba(0,0,0,0.65);">>Big Data Processing Technology on Spark</small> </h1><hr><h1 style="font-size: 30px;color: #404040;">I. Overviews</h1><div class="chart-group"><h2>- Distribution of Genres in TMDb <br> <small style="font-size: 72%;">> This figurecompares the genredistribution in TMDb, and you can see that most of the movies in TMDb is Drama.</small> </h2><iframe src="genres.html" class="frame" frameborder="0"></iframe></div></div><script>/*Fixing iframe window.innerHeight 0 issue in Safari*/document.body.clientHeight;</script>
</body></html>

每个图表通过一个 iframe 引入到主页中。对于每一个图表,主页中都包含标题和图表所在的页面的 iframe。对于 TMDb 中的体裁分布分析结果,在 genres.html 中实现,下面对该文件进行实现。

<!DOCTYPE html>
<html lang="en"><head><meta charset="UTF-8"><meta name="viewport" content="width=device-width,height=device-height"><title>TOP 5000 电影数据分析</title><style>::-webkit-scrollbar {display: none;}html,body {font-family: 'Ubuntu Condensed';height: 100%;margin: 0;color: rgba(0, 0, 0, 0.85);}</style>
</head><body><div id="mountNode"></div></div><script>/*Fixing iframe window.innerHeight 0 issue in Safari*/document.body.clientHeight;</script><script src="static/g2.min.js"></script><script src="static/data-set.min.js"></script><script src="static/jquery-3.2.1.min.js"></script><script>function generateChart(id, type, xkey, xlabel, ykey, ylabel) {var chart = new G2.Chart({ // 初始化 chartcontainer: id,forceFit: true,height: 500,padding: [40, 80, 80, 80],});chart.scale(ykey, { // 对 y 尺度进行设置alias: ylabel,min: 0,// max: 3000,tickCount: 4});chart.axis(xkey, { // 对 x 坐标轴设置label: {textStyle: {fill: '#aaaaaa'}},tickLine: {alignWithLabel: false,length: 0}});chart.axis(ykey, { // 对 y 坐标轴设置label: {textStyle: {fill: '#aaaaaa'}},title: {offset: 50}});chart.legend({    // 设置图例position: 'top-center'});//设置标签和颜色等chart.interval().position(`${xkey}*${ykey}`).label(ykey).color('#ffb877').opacity(1).adjust([{type,marginRatio: 1 / 32}]);chart.render();return chart;}</script><script>// 调用上述函数创建图表let chart = generateChart('mountNode', 'dodge', 'genre', 'genres', 'count', '# movies');window.onload = () => {// 当页面加载后使用 jQuery 提供的方法进行json文件的读取。$.getJSON("/static/genres.json", d => {chart.changeData(d) // 使用 chart 的更新数据 API 进行数据更新。})}</script>
</body></html>

代码的过程解释以注释给出,使用该页面前,还需要将对应的 js 库( g2.js, data-set.js, jquery )放入到 static 文件夹下。
之后执行代码:

实验结果

可视化结果

概览

1.TMDb 电影中的体裁分布


从图中可以看出,Drama 的电影在 TMDb 中占比较大,其次 Science Fiction、Action 和 Thriller 的数量也较多。

2. 前 100 个常见关键词


TMDb 中最常见的关键词是 Woman Director,其次还有 independent film 等。

3. TMDb 中最常见的 10 种预算数


有 144 部电影的预算为 20,000,000,是最常见的预算值。

4. TMDb 中最常见电影时长 (只展示电影数大于 100 的时长)


多数电影的时长是90分钟或100分钟。

5. 生产电影最多的 10 大公司


生产电影较多的公司是 Warner Bros.、Universal Pictures等。

6. TMDb 中的 10 大电影语言


大多数电影中的语言是英语。

关系

预算与评价的关系

发行时间与评价的关系

流行度与评价的关系

公司生产的电影平均分和数量的关系


从图中可以看出,一个公司生产的电影越多,其电影平均分越接近整体的平均水平。

电影预算和营收的关系

网页查看


【大数据基础】基于 TMDB 数据集的电影数据分析相关推荐

  1. 《大数据基础——基于Hadoop与Spark》课后习题——第一章部分答案

    仅用于我个人的学习.书籍为人民邮电出版社的<大数据技术基础--基于Hadoop与Spark>.课后习题选择是我个人认为有用的.记录下来是为了督促我学习:) 共好 1.请指出以下术语的基本含 ...

  2. 【大数据基础】淘宝双11数据分析与预测

    https://dblab.xmu.edu.cn/post/8116/ 问题 问题1 mysql登录需要密码 https://cloud.tencent.com/developer/beta/arti ...

  3. 大数据基础知识(下)

    大数据基础知识:技巧与概念 大数据伦理 匿名方面的挑战 保密性方面的挑战 大数据的来源和结构 人类生成的数据 机器生成的数据 结构化数据 非结构化数据 存储大数据 分布式存储与云 云计算:IaaS.P ...

  4. 大数据实时处理-基于Spark的大数据实时处理及应用技术培训

    随着互联网.移动互联网和物联网的发展,我们已经切实地迎来了一个大数据 的时代.大 数据是指无法在一定时间内用常规软件工具对其内容进行抓取.管理和处理的数据集合,对大数据的分析已经成为一个非常重要且紧迫 ...

  5. hawk大数据基础知识总结(1)

    一.大数据概述 1.1大数据的概念 大数据一共具有三个特征:(1)全样而非抽样:(2)效率而非精确:(3)相关而非因果. (1)在过去由于缺乏获取全体样本的手段,人们发明了"随机调研数据&q ...

  6. 大数据基础——Hadoop大数据平台搭建

    文章目录 前言 Hadoop大数据平台搭建 一.Hadoop原理和功能介绍 二.Hadoop安装部署 三.Hadoop常用操作 总结 前言 分布式机器学习为什么需求大数据呢?随着海量用户数据的积累,单 ...

  7. 大数据基础知识(上)

    大数据基础知识:技巧与概念 什么是大数据 数量多 流转快 种类多 大数据需要具备全部三个特征吗? 如何使用大数据 了解消费者大数据 了解企业大数据 了解科学研究大数据 大数据与数据科学 大数据与小数据 ...

  8. 大数据基础之Hive(四)—— 常用函数和压缩存储

    作者:duktig 博客:https://duktig.cn (文章首发) 优秀还努力.愿你付出甘之如饴,所得归于欢喜. 更多文章参看github知识库:https://github.com/dukt ...

  9. 大数据基础之Hadoop(三)—— MapReduce

    作者:duktig 博客:https://duktig.cn (文章首发) 优秀还努力.愿你付出甘之如饴,所得归于欢喜. 本篇文章源码参看:https://github.com/duktig666/b ...

最新文章

  1. 谷歌 AI 编舞师,连张艺兴最喜欢的 Krump 都不在话下
  2. ASP.NET 实现站内信功能(点对点发送,管理员群发)
  3. PHP微信登錄(網頁授權)之後的獲取用戶的信息
  4. 用STL vector 来创建二维数组 zz
  5. sqlserver去掉密码强度验证_安装sql2008数据库引擎配置时,提示sa密码强度不满足要求怎么办?...
  6. 合并排序算法排序过程_外部合并排序算法
  7. FPGA状态机二段式
  8. 容器入门(6) - 获取访问Docker Registry的公钥证书
  9. 一文了解 caffe 框架 | CSDN 博文精选
  10. java语言注释符号,高级Java开发必看
  11. Java网络编程从入门到精通(15):为什么要使用SocketAddress来管理网络地址
  12. wps表格宏被禁用如何解禁_wps宏被禁用如何打开?
  13. java开源引擎easyrule_【Urule介绍】开源可视化规则引擎
  14. 算法训练 调和数列问题
  15. 637-字符串模式匹配-BF算法
  16. Python MySQL 数据库技术 part 3
  17. 如何制作全景图片,VR全景制作流程解析
  18. 我将进化成一条狗(6)——3D显示
  19. [转]PROE传动链条的装配教程
  20. Spring Validated分组校验

热门文章

  1. python安装失败错误代码0x_Python Windows 7-安装失败0x80240017
  2. 《金字塔原理》的读后感作文2500字
  3. YOLO系列梳理(三)YOLOv5
  4. 碳中和数据合集:含中国碳中和政策全集、碳中和论文合集
  5. 九、PHP知识核心 面向对象
  6. win8(64位)下memcache安装时报错“ failed to install service or service already installed”
  7. 法国半导体制造企业RIBER部署MBE技术以支持量子计算
  8. 关于wrf格式的课件的视频转换问题
  9. INTEL G41时序
  10. Object Detection in 20 Years: A Survey