一次利用 ChatGPT 给出数据抓取代码,借助 NebulaGraph 图数据库与图算法预测体坛赛事的尝试。

作者:古思为

蹭 ChatGPT 热度

最近因为世界杯正在进行,我受到这篇 Cambridge Intelligence 的文章启发(在这篇文章中,作者仅仅利用有限的信息量和条件,借助图算法的方法做出了合理的冠军预测),想到可以试着用图数据库 NebulaGraph 玩玩冠军预测,还能顺道科普一波图库技术和图算法。

本来想着几个小时撸出来一个方案,但很快被数据集的收集工作劝退了,我是实在懒得去「FIFA 2022 的百科」抓取所需的数据,索性就搁浅、放了几天。

同时,另一个热潮是上周五 OpenAI 发布了 ChatGPT 服务,它可以实现各种语言编码。ChatGPT 可实现的复杂任务设计包括:

  • 随时帮你实现一段指定需求的代码
  • 模拟任意一个 prompt 界面:Shell、Python、Virtual Machine、甚至你创造的语言
  • 带入给定的人设,和你聊天
  • 写诗歌、rap、散文
  • 找出一段代码的 bug
  • 解释一段复杂的正则表达式的含义

ChatGPT 的上下文联想力和理解力到了前所未有的程度,以至于所有接触它的人都在讨论新的工作方式:如何掌握让机器帮助我们完成特定任务。

所以,当我试过让 ChatGPT 帮我写复杂的图数据库查询语句、解释复杂图查询语句的含义、解释一大段 Bison 代码含义之后,我突然意识到:为什么不让 ChatGPT 帮我写好抓取数据的代码呢

抓取世界杯数据

我真试了下 ChatGPT,结果是:完全可以,而且似乎真的很容易。

整个实现过程,基本上我像是一个代码考试的面试官,或是一个产品经理,提出我的需求,ChatGPT 给出具体的代码实现。我再试着运行代码,找到代码中不合理的地方,指出来并给出建议,ChatGPT 真的能理解我指出的点,并给出相应的修正,像是:

这一全过程我就不在这里列出来了,不过我把生成的代码和整个讨论的过程都分享在这里,感兴趣的同学可以去看看。

最终生成的数据是一个 CSV 文件:

  • 代码生成的文件 world_cup_squads.csv
  • 手动修改、分开了生日和年龄的列 world_cup_squads_v0.csv

上面的数据集包含的信息有:球队、小组、编号、位置、球员名字、生日、年龄、参加国际比赛场次、进球数、服役俱乐部。

Team,Group,No.,Pos.,Player,DOB,Age,Caps,Goals,Club
Ecuador,A,1,1GK,Hernán Galíndez,(1987-03-30)30 March 1987,35,12,0,Aucas
Ecuador,A,2,2DF,Félix Torres,(1997-01-11)11 January 1997,25,17,2,Santos Laguna
Ecuador,A,3,2DF,Piero Hincapié,(2002-01-09)9 January 2002,20,21,1,Bayer Leverkusen
Ecuador,A,4,2DF,Robert Arboleda,(1991-10-22)22 October 1991,31,33,2,São Paulo
Ecuador,A,5,3MF,José Cifuentes,(1999-03-12)12 March 1999,23,11,0,Los Angeles FC

这是手动删除了 CSV 表头的数据集 world_cup_squads_no_headers.csv。

图方法预测 2022 世界杯

图建模

本文用到了图数据库 NebulaGraph 和可视化图探索工具 NebulaGraph Explorer,你可以在阿里云免费申请半个月的试用。

图建模(Graph Modeling)是把真实世界信息以”点–>边“的图形式去抽象与表示。

这里,我们把在公共领域获得的信息映射成如下的点与边:

点:

  • player(球员)
  • team(球队)
  • group(小组)
  • club(俱乐部)

边:

  • groupedin(球队属于哪一小组)
  • belongto(队员属于国家队)
  • serve(队员在俱乐部服役)

而队员的年龄、参加国际场次(caps)、进球数(goals)则很自然作为 player 这一类点的属性。

下图是这个 schema 在 NebulaGraph Studio/Explorer(后边称 Studio/Explorer) 中的截图:

我们点击右上角的保存后,便能创建一个新的图空间,将这个图建模应用到图空间里。

这里可以参考下 Explore 草图的文档:https://docs.nebula-graph.com.cn/3.3.0/nebula-explorer/db-management/draft/

导入数据进 NebulaGraph

有了图建模,我们可以把之前的 CSV 文件(无表头版本)上传到 Studio 或者 Explorer 里,通过点、选关联不同的列到点边中的 vid 和属性:

完成关联之后,点击导入,就能把整个图导入到 NebulaGraph。成功之后,我们还得到了整个 csv --> Nebula Importer 的关联配置文件:nebula_importer_config_fifa.yml,你可以直接拖拽整个配置,不用自己去配置它了。

这里可以参考 Explorer 数据导入的文档:https://docs.nebula-graph.com.cn/3.3.0/nebula-explorer/db-management/11.import-data/

数据导入后,我们可以在 schema 界面查看数据统计。可以看到,有 831 名球员参加了 2022 卡塔尔世界杯,他们服役在 295 个不同的俱乐部:

这里我们用到了 Explorer 的 schema 创建的文档:https://docs.nebula-graph.com.cn/3.3.0/nebula-explorer/db-management/10.create-schema/#_6

探索数据

查询数据

下面,我们试着把所有的数据展示出来看看。

首先,借助 NebulaGraph Explorer,我用拖拽的方式画出了任意类型的点(TAG)和任意类型点(TAG)之间的边。这里,我们知道所有的点都包含在至少一个边里,所以不会漏掉任何孤立的点。

让 Explorer 它帮我生成查询的语句。这里,它默认返回 100 条数据(LIMIT 100),我们手动改大一些,将 LIMIT 后面的参数改到 10000,并让它在 Console 里执行。

初步观察数据

结果渲染出来是这样子,可以看到结果自然而然地变成一簇簇的模式。

这些外围、形成的簇多是由不怎么知名的足球俱乐部,和不怎么厉害的国家队的球员组成,因为通常这些俱乐部只有一两个球员参加世界杯,而且他们还集中在一个国家队、地区,所以没有和很多其他球员、国家队产生连接。

图算法辅助分析

在我点击了 Explorer 中的两个按钮之后(详细参考后边的文档链接),在浏览器里,我们可以看到整个图已经变成:

这里可以参考 Explorer 的图算法文档:https://docs.nebula-graph.com.cn/3.3.0/nebula-explorer/graph-explorer/graph-algorithm/

其实,Explorer 这里利用到了两个图算法来分析这里的洞察:

  1. 利用点的出入度,改变它们的显示大小突出重要程度
  2. 利用 Louvain 算法区分点的社区分割

可以看到红色的大点是鼎鼎大名的巴塞罗那,而它的球员们也被红色标记了。

预测冠军算法

为了能充分利用图的魔法(与图上的隐含条件、信息),我的思路是选择一种利用连接进行节点重要程度分析的图算法,找出拥有更高重要性的点,对它们进行全局迭代、排序,从而获得前几名的国家队排名。

这些方法其实就体现了厉害的球员同时拥有更大的社区、连接度。同时,为了增加强队之间的区分度,我准备把出场率、进球数的信息也考虑进来。

最终,我的算法是:

  • 取出所有的 (球员)-服役->(俱乐部) 的关系,过滤其中进球数过少、单场进球过少的球员(以平衡部分弱队的老球员带来的过大影响)
  • 从过滤后的球员中向外探索,获得国家队
  • 在以上的子图上运行 Betweenness Centrality 算法,计算节点重要度评分

算法过程

首先,我们取出所有进球数超过 10,场均进球超过 0.2 的 (球员)-服役->(俱乐部) 的子图:

MATCH ()-[e]->()
WITH e LIMIT 10000
WITH e AS e WHERE e.goals > 10 AND toFloat(e.goals)/e.caps > 0.2
RETURN e

为了方便,我把进球数和出场数也作为了 serve 边上的属性了。

然后,我们全选图上的所有点,点击左边的工具栏,选择出方向的 belongto 边,向外进行图拓展(遍历),同时选择将拓展得到的新点标记为旗帜的 icon:

现在,我们获得了最终的子图,我们利用工具栏里的浏览器内的图算法功能,执行 BNC(Betweenness Centrality)

最后,这个子图变成了这样子:

预测结果

最终,我们根据 Betweenness Centrality 的值排序,可以得到最终的获胜球队应该是:巴西

ChatGPT 加图数据库 NebulaGraph 预测 2022 世界杯冠军球队相关推荐

  1. Python!使用机器学习预测2022世界杯

    使用机器学习预测2022世界杯 文章目录 使用机器学习预测2022世界杯 项目说明 数据集说明 1872年至2022年国际足球成绩 国际足联世界排名1992-2022 数据分析及预处理 对1872年至 ...

  2. 2022世界杯冠军预测,机器学习为你揭晓

    卡塔尔世界杯,究竟谁能捧起大力神杯,就让我们用机器学习预测一下吧! 数据源 为了构建机器学习模型,我们需要来自团队的数据.首先需要一些能够说明球队表现的信息,这些信息可以从之前的比赛中提取出来.此外, ...

  3. 【文末送书】2022世界杯冠军预测,机器学习为你揭晓

    卡塔尔世界杯,究竟谁能捧起大力神杯,就让我们用机器学习预测一下吧! 数据源 为了构建机器学习模型,我们需要来自团队的数据.首先需要一些能够说明球队表现的信息,这些信息可以从之前的比赛中提取出来.此外, ...

  4. AI 揭晓答案,2022世界杯冠军已出炉

    卡塔尔世界杯,究竟谁能捧起大力神杯,就让我们用机器学习预测一下吧! 文章目录 数据源 技术提升 数据集构建 功能开发 数据分析 模型 世界杯模拟 结论 数据源 为了构建机器学习模型,我们需要来自团队的 ...

  5. Python预测2022世界杯1/8决赛胜负

    目录: why to do? how to do? why to do? 简单介绍一下为什么要做这个吧? 首先呢, 最近一直在看基于tensorflow框架实现facenet等一些人脸识别的网络. 再 ...

  6. 图数据库 NebulaGraph v3.5.0 发布,支持免索引查询、UDF,FIND PATH 性能大幅度提升

    本次 v3.5.0 版本主要是优化了 FIND ALL PATH 性能,支持免索引的全表扫描等功能.具体性能提升幅度,记得阅读下周的 NebulaGraph v3.5.0 性能报告. 特性 支持免索引 ...

  7. 就离谱!使用机器学习预测2022世界杯:小组赛挺准,但冠亚季军都错了 ⛵

  8. MIT:机器学习预测2018世界杯冠军

    来源 :199IT互联网数据中心 摘要:麻省理工学院报道,他们的研究人员开发了一种新型人工智能,用以预测世界杯走势. 麻省理工学院报道,他们的研究人员开发了一种新型人工智能,用以预测世界杯走势. 研究 ...

  9. 2022世界杯结果预测,简单AI模型最有效?附代码!

    2022世界杯冠军是谁?本文将为你揭晓一个利用简单AI模型得到的靠谱预测. 许多人称足球为"不可预测的比赛",因为一场足球比赛有不同的因素可以改变最终比分. 这是真的--在某种程度 ...

最新文章

  1. 架构之美(china-pub全国独家首发)
  2. BootStrap字体图标不显示、下拉菜单不显示
  3. Python自动化一--接口测试基础知识,jmeter操作介绍
  4. 关于在安装ASP.NET Forum中出现的无法排序的问题.
  5. JavaScript(数据类型、字符串操作)
  6. Linux学习笔记:安装python
  7. java中乐观锁_Java中乐观锁与悲观锁的实现
  8. 如何用Apache POI操作Excel文件-----如何对一个单元格加注解?
  9. 圣地亚哥分校 计算机,加州大学圣地亚哥分校计算机怎么样?
  10. android生命周期_Android片段生命周期
  11. 【机器学习系列】隐马尔科夫模型第三讲:EM算法求解HMM参数
  12. FreeSWITCH学习
  13. 行业解读 | 什么是人工智能语音技术?一篇文章让你读懂它
  14. Java实现图片水印
  15. Java参数校验工具validation
  16. App Store自动下载WiFi与蜂窝数据切换机制
  17. MATLAB 2014a与 VS2013 配置过程
  18. 类和对象,属性和方法
  19. ibm是被联想收购了吗_联想的现状,让人不得不佩服当年IBM的老辣
  20. python的转义字符,以及字符串输出转义字符

热门文章

  1. 【 C++11 】右值引用和移动语义
  2. uniapp抖音网页版
  3. RKE2部署高可用Rancher v2.7.1
  4. MEC打通5G应用场景的“经络”
  5. python多张图片生成ppt_用Python实现ppt转化图片(附带长图合并功能)
  6. 美云智数——用户云进一步增强用户与企业间的联系,助力企业发展
  7. 入职一个月的工作感悟
  8. 压铸PQ实战分享 1/3
  9. scipy求解矩阵微分方程
  10. A Love Letter To Josephine