一、环境准备

Python 3

requests库 、lxml库、beautifulsoup4库

pip install XX XX XX一并安装。

二、Python爬虫小案例

1、获取本机的公网IP地址

利用python的requests库+公网上查IP的接口,自动获取IP地址

2、利用百度的查找接口,Python编写url采集工具

需要用到requests库、BeautifulSoup库,观察百度搜索结构的URL链接规律,绕过百度搜索引擎的反爬虫机制的方法为在程序中设置User-Agent请求头。

在这里还是要推荐下我自己建的Python开发学习裙:304 零伍零 799,裙里都是学Python开发的,如果你正在学习Python ,小编欢迎你加入,大家都是软件开发党,不定期分享干货(只有Python软件开发相关的),包括我自己整理的一份2018最新的Python进阶资料和高级开发教程,欢迎进阶中和进想深入Python的小伙伴

Python源代码:

Python语言编写好程序后,利用关键词inurl:/dede/login.php 来批量提取某网cms的后台地址:

3、利用Python打造搜狗壁纸自动下载爬虫

搜狗壁纸的地址是json格式,所以用json库解析这组数据,爬虫程序存放图片的磁盘路径改成欲存图片的路径就可以了。

4、Python自动填写问卷调查

与一般网页一样,多次提交数据会要输入验证码,这就是反爬机制。

如图:

那么如何绕过验证码的反爬措施?利用X-Forwarded-For伪造IP地址访问即可,Python代码如下:

效果:

5、获取西刺代理上的IP,验证这些代理被封禁掉的可能性与延迟时间

可以把Python爬取的代理IP添加到proxychain里面,就可以进行一般的渗透任务了。这里直接调用了linux的系统命令ping -c 1 " + ip.string + " | awk 'NR==2{print}' - ,在Windows中运行此程序需要修改倒数第三行os.popen里的命令,修改为Windows能够执行的就可以了。

爬取到的数据如图:

更多编程方面的分享请关注微信公众号:程序员大牛!

Python新手都知道而你却不知的经典案例相关推荐

  1. [Python从零到壹] 六十一.图像识别及经典案例篇之基于纹理背景和聚类算法的图像分割

    祝大家新年快乐,阖家幸福,健康快乐! 欢迎大家来到"Python从零到壹",在这里我将分享约200篇Python系列文章,带大家一起去学习和玩耍,看看Python这个有趣的世界.所 ...

  2. [Python从零到壹] 六十.图像识别及经典案例篇之基于阈值及边缘检测的图像分割

    欢迎大家来到"Python从零到壹",在这里我将分享约200篇Python系列文章,带大家一起去学习和玩耍,看看Python这个有趣的世界.所有文章都将结合案例.代码和作者的经验讲 ...

  3. Python骚操作之第二话常用语句及经典案例

    文章目录 前言 一.判断语句 多重判断 嵌套判断 二.循环语句 三.break 四.continue 五.面试经典案例 5.1.'1020个瓜,第一天卖掉总数的一半后多卖出两个,以后每一天麦剩下的一半 ...

  4. [Python从零到壹] 六十四.图像识别及经典案例篇之图像傅里叶变换和傅里叶逆变换详解

    祝大家新年快乐,阖家幸福,健康快乐! 欢迎大家来到"Python从零到壹",在这里我将分享约200篇Python系列文章,带大家一起去学习和玩耍,看看Python这个有趣的世界.所 ...

  5. Python:利用python语言绘制多个子图经典案例、代码实现之详细攻略

    Python:利用python语言绘制多个子图经典案例.代码实现之详细攻略 目录 利用python语言绘制多个子图代码实现.经典案例 1.绘制多个子图框架 多个子图绘制的经典案例 1.绘制多个直方图 ...

  6. 用python怎么赚钱-用python赚钱(python新手怎么兼职)

    回答: 用这个做兼职一般是做爬虫.做其他的内容,好像很少了.如果你真的要做那么,你还是玩爬虫方向去走.用了爬虫,你就会发现需要代理IP,后面有很多要花钱的东西.. 正规渠道的话,在国内不要考虑用Pyt ...

  7. [转载] Python新手写出漂亮的爬虫代码1——从html获取信息

    参考链接: Python中从用户获取多个输入 Python新手写出漂亮的爬虫代码1 初到大数据学习圈子的同学可能对爬虫都有所耳闻,会觉得是一个高大上的东西,仿佛九阳神功和乾坤大挪移一样,和别人说&qu ...

  8. 编程入门python语言是多大孩子学的-不学点编程,将来怎么给孩子辅导作业―Python新手入门教程...

    为了填满AI时代的人才缺口,编程语言教育都从娃娃抓起了!如果你还不懂Python是什么将来怎么给孩子辅导作业呢? Python新手入门教程 近期,浙江省信息技术课程改革方案出台,Python言语现已断 ...

  9. python新手自学-新手自学python

    广告关闭 腾讯云11.11云上盛惠 ,精选热门产品助力上云,云服务器首年88元起,买的越多返的越多,最高返5000元! python介绍与特点(自学python知识整理)python 简介python ...

最新文章

  1. 学习lulu之——tips 提示
  2. 【30集iCore3_ADP出厂源代码(ARM部分)讲解视频】30-8底层驱动之RTC
  3. varchar2(100 char)是什么意思
  4. listview item里面的控件点击事件
  5. 14. PHP 数组排序
  6. 如何制作通讯录vcf_批量信息从表格导入手机“通讯录”
  7. 幅值与峰峰值的计算_峰峰值,峰值,平均值,有效值的关系
  8. 最详细的 tf.cholesky_solve(chol, rhs, name=None)函数和tf.matrix_solve(matrix, rhs, adjoint=None, name=None)
  9. linux pap认证,linux – pppd“同行拒绝认证”
  10. 中国国家地理高清晰的PDF书籍系列经典珍藏版
  11. 在Ubuntu5.1中安装NVIDIA TNT2 M64老式显卡驱动程序..
  12. 【经验分享】AVI文件打开只有音频无视频的解决方案
  13. 老板无偿征用你的朋友圈,你愿意吗?
  14. 西北大学844计算机考研真题,2018年西北大学信息科学与技术学院844软件工程学科专业基础综合之计算机操作系统考研基础五套测试题...
  15. tidb-cdc日志tables are not eligible to replicate
  16. 通知计算机大赛的英语作文,关于诗歌比赛(通知)的英语作文
  17. 利用VcOutPut.sh检查QE vc-relax优化情况
  18. ENVI Classic:如何对影像文件的头文件进行编辑?
  19. oracle卸载ogg,OGG-卸载
  20. WPF+WCF一步一步打造音频聊天室(一):概述

热门文章

  1. day24.open 打开文件操作
  2. Java实现旅游app_旅游app源码(在路上)
  3. 记一次失败的小米面试
  4. 停车场智能化管理系统
  5. linux挂载的硬盘为ro,remount成rw出错问题解决
  6. Ubuntu 20.4 美化桌面、美化引导界面、Mac 既视感
  7. 解读一个有趣的网站seo,论网站如何快速上词以及上量
  8. 记录下载com.mysql.jdbc.Driver驱动包过程
  9. oracle 基础dbms错误,更改对 DBMS 错误的响应
  10. 大数据Hadoop3.1.3 HDFS 详细入门笔记