Robots协议起不到阻止爬虫的作用,是爬虫的“君子协定”

格式好像是这样的:

https://www.jd.com/robots.txt

现在题里面给了一个靶机的IP:

大概用IP访问也是一样的效果?

FireFox打开链接:

http://1.2.29.3/robots.txt

显示这么个玩意

Key.php?访问看看?

Slove

第三周实验题目2——robots协议相关推荐

  1. 20135302魏静静——linux课程第三周实验及总结

    linux课程第三周实验及总结 一.实验:跟踪分析Linux内核的启动过程 使用gdb跟踪调试内核从start_kernel到init进程启动 使用实验楼的虚拟机打开shell cd LinuxKer ...

  2. 5233杨光--第三周实验报告

    信息的表示和处理 一.数字表示 1. 无符号数:编码基于传统的二进制表示法表示大于或等于零的数字. 2. 补码:编码是表示有符号整数的最常见方法,可以是正或者是负的数字. 3. 浮点数:编码是表示实数 ...

  3. 吴恩达 DeepLearning 神经网络基础 第一课第三周编程题目及作业

    声明 此周的作业放在下面的链接那里,里面包含了所有资料. 作业链接 在一些代码上我写上了注释,再次明确了建立一个模型的步骤,此作业由于并不是很复杂,所以一些步骤合并了,但是总体的建模步骤还是跟博客上第 ...

  4. 2019-2020-1 20175227张雪莹《信息安全系统设计基础》 实验五 《通讯协议设计》

    2019-2020-1 20175227张雪莹<信息安全系统设计基础> 实验五 <通讯协议设计> 实验报告封面 课程:信息安全系统设计基础 班级:1752班 姓名:张雪莹 学号 ...

  5. java实验总结_java第一次实验总结第三周总结

    Java第一次实验报告,java开发环境与简单的Java程序 一.实验目的 1.熟悉JDK开发环境 2.熟练掌握结构化程序设计方法 二.实验内容 打印输出所有的"水仙花数",所谓& ...

  6. 第三周课程总结及实验报告(一)

    Java实验报告(一) 实验一 Java开发环境与简单Java程序 一. 实验目的 (1) 熟悉JDK开发环境 (2) 熟练掌握结构化程序设计方法 二. 实验内容 打印输出所有的"水仙花数& ...

  7. 撰写第三周课程总结及实验报告(一)

    1.打印输出所有的"水仙花数",所谓"水仙花数"是指一个3位数,其中各位数字立方和等于该数本身.例如,153是一个"水仙花数". 代码 pu ...

  8. 第三周课程总结实验报告一

    第三周课程总结 一.第三周课程总结 学习Java已经有三周了,总体来说掌握的不太好,特别是Java的输入语法.语句,还有一些基本语法书写规则不太熟练,再是调用方法的规则:方法名可以相同,参数列表不同, ...

  9. python学习实验报告(第三周)

    一.实验目的 1. 理解条件表达式与True/False的等价关系 2. 熟练运用常见选择结构 3. 熟练运用for循环和while循环 4. 理解带else子句的循环结构执行过程 5. 理解brea ...

最新文章

  1. UI设计培训之UI设计系统知识
  2. Scrapy爬虫基本使用
  3. Python3.2+ 的 concurrent.futures 模块,利用 multiprocessing 实现高并发。
  4. Java之PriorityQueue有序队列
  5. 晚上运动对身体好吗?
  6. 一致性哈希和redis分布式集群
  7. python math数学模块
  8. winpe做服务器系统备份,如何进pe做系统备份-重装系统怎么备份?
  9. Maya---2018up4 Python 开发环境配置(win10x64)
  10. OpenWRT配置 -- 网络配置network文件
  11. 2022-2027年中国缝制机械行业市场全景评估及发展战略规划报告
  12. 美国大学工程计算机排名,想从事编程?2019年USNews美国大学计算机工程专业排名值得一看...
  13. 计算机组成原理——加减运算 溢出判断
  14. 细数那些年经典有深度的电影
  15. C2_W1_Lab01_Neurons_and_Layers
  16. SpringBoot整合rabbitmq使用案例
  17. 2022-2028全球两级旋片泵行业调研及趋势分析报告
  18. stm8s103k3 周期 捕获_STM8S003K3如何用定时器中断处理捕获脉冲?
  19. iOS WKWebView高度自适应以及截获页面点击的url
  20. 【python3】基于随机森林的气温预测

热门文章

  1. 基于Egteks mPower1203仪器和KEYSIGHT N6705仪器的一款智能穿戴产品的低功耗电流测试评估
  2. 双球坐标系_天球坐标系 - 中文百科
  3. session和token鉴权
  4. PDO连接数据库及DSN详解
  5. AJAX_入门经典案例
  6. 【离散系统】传递函数和状态空间方程离散化
  7. 各种类型相机rtsp取流格式大汇总
  8. 白盒测试:语句覆盖、条件覆盖、判定覆盖、条件-判定覆盖、组合覆盖、路径覆盖...
  9. ping不通外网 连不上外网
  10. “精致穷”的年轻人养出百亿小样经济