背景

前段时间给朋友写了一个自动抓取同花顺股票数据的程序,不少人觉得不错。

这几天后台有粉丝给我留言让我也抓一下东方财富的数据,说东方财富的数据特别难抓,我还真不一定能搞得定。

本来我是一个德艺双磬且与世无争的佛系程序员,小小的激将法怎么会激到我,但在京隔离期间实在太闲,就看了下东方财富的网站。真是不看不知道,一看吓一跳,这网站做的我口吐芬芳。

抓取思路

我们先看下这个网站的资金流向排行榜,里面有各大股市的股票资金数据

东方财富的资金流向图表

炒股(韭菜)的都知道,如果一个股票的净流入大单很多,那说明股票涨,流入越大,涨的越多。所以关注一只股票的资金流向很重要,而东方财富专门有个资金流向的板块给我们提供数据。于是抓取这个页面的资金流向数据就很关键,根据页面源码和抓包分析,进入这个网站时,会分配一个token。而表格中的数据是异步加载的,获取数据的请求中会带着这个token,所以我们第一步要搞定这个token。根据页面中的表格我们可以看到这个页面的数据进行了分页,每页50个,所以在抓取时需要根据分页循环抓取数据,直至尾页。

总结步骤:

获取token

分页抓取

清洗数据

数据入库

数据入库

给大家看看我最近爬下来的数据:

入库数据

抓取的代码我直接写成了一个定时任务DFCFFundFlowCrawlerJob.java,大家可以直接复制到任何springboot工程中,直接运行就行,太长了,这里就不展示了。

github地址:https://github.com/chinashuai/crawler-stock-data-all

java 股票_java抓取东方财富股票数据相关推荐

  1. java股票数据_java抓取东方财富股票数据(附源码)

    背景 前段时间给朋友写了一个自动抓取同花顺股票数据的程序,不少人觉得不错. 这几天后台有粉丝给我留言让我也抓一下东方财富的数据,说东方财富的数据特别难抓,我还真不一定能搞得定. 本来我是一个德艺双磬且 ...

  2. java古诗_java抓取古诗文的单线程爬虫

    准备知识 1.HTML, CSS, HTML DOM树 参考http://www.w3school.com.cn/htmldom/ 2.Jsoup的使用,使用DOM方法遍历一个document对象,使 ...

  3. 网页java代码_java抓取网页代码

    导读热词 代码以下 import java.io.BufferedReader; import java.io.InputStreamReader; import java.net.HttpURLCo ...

  4. python 爬取财经新闻股票_python 抓取新浪财经股票数据

    新浪并未提供API,但我们可以通过抓包来获取实时或历史行情数据. 实时行情 比如我们可以通过浏览器访问: ?== 来获取证券代码为的实时行情数据,可以看到内容为: ="华泰证券,,,,20. ...

  5. python爬取同花顺_Java爬取同花顺股票数据(附源码)

    最近有小伙伴问我能不能抓取同花顺的数据,最近股票行情还不错,想把数据抓下来自己分析分析.我大A股,大家都知道的,一个概念火了,相应的股票就都大涨. 如果能及时获取股票涨跌信息,那就能在刚开始火起来的时 ...

  6. vba 提取 json某个值_VBA利用IE,抓取解禁股票数据

    大家好,我们今日讲解"VBA信息获取与处理"教程中第九个专题"利用IE抓取网络数据"的第三节"利用IE,抓取解禁股票数据",这个专题是非常有 ...

  7. java取网页数据_Java抓取网页数据(原来的页面+Javascript返回数据)

    转载请注明出处. 有时候因为种种原因.我们须要採集某个站点的数据.但因为不同站点对数据的显示方式略有不同! 本文就用Java给大家演示怎样抓取站点的数据:(1)抓取原网页数据.(2)抓取网页Javas ...

  8. Java版 QQ空间自动登录无需拷贝cookie一天抓取30WQQ说说数据流程分析【转】

    Java版 QQ空间自动登录无需拷贝cookie一天抓取30WQQ说说数据&流程分析 QQ空间说说抓取难度比较大,花了一个星期才研究清楚! 代码请移步到GitHub GitHub地址:http ...

  9. java+selenium自动化抓取51la数据

    java+selenium自动化抓取51la数据 初衷 环境依赖 demo上代码 效果来个马赛克 如果觉得写的不错或者想了解更多,欢迎收藏和关注~~ 初衷 前端埋点51la,进行网站统计.51la没有 ...

最新文章

  1. 在Mac上通过VMware Fushion 15.1配置静态IP虚拟机实录
  2. 如何从sdcard读取文件
  3. OpenCV4 C++学习 必备基础语法知识二
  4. webpack 异步加载配置文件_Webpack 是怎样运行的?
  5. redhat5.8 alt+ctrl+f1 黑屏
  6. !!!随机数生成!!
  7. 单片机并口应用实验c语言,1单片机并口简单应用(流水灯).docx
  8. git 编辑提交的技巧
  9. 【教程搬运】廖雪峰Git的使用教程(二)
  10. eclipse中添加Json Editor Plugin 插件的方法
  11. 超全超详细的安装nvidia显卡驱动教程
  12. MyEclipse2017CI安装包及图解破解步骤
  13. LZY逃命路线总数(记忆化递归)非常难
  14. 如何将一个HTML页面嵌套在另一个页面中
  15. 双十一买联想拯救者刃7000P血亏,三个月不到反降了500RMB
  16. 一文了解 TKG 如何使用 GPU 资源池
  17. 突破Outlook2013附件大小限制
  18. figma的一些用法(一)
  19. 学习论文写作课程的心得体会
  20. 编程之美--3.5最短摘要的生成

热门文章

  1. 图片转存 - to youdao
  2. 邓俊辉老师的学堂在线数据结构课程中的迷宫
  3. 刚刚和ChatGPT聊了聊隐私计算
  4. 市值即将破600亿元,深信服2019年利润可能破7亿元
  5. P5117 [USACO18DEC]The Bucket List 题解
  6. Web端rtmp视频流的预览
  7. 【每日进步一点点】PHP Apache PHPMySQL
  8. 联想笔记本怎么录屏,4个笔记本电脑录屏的方法
  9. 动手学深度学习: 图像分类案例2,GAN,DCGAN
  10. 百度前端技术学院之相册拼图布局