使用scrapy框架写的当当网数据爬取,数据能爬下来,但是导入不进去数据库中

大神,又来打扰你了

1.数据库名称:

dd:数据库名

ddw 表名

2.问题报错

3.代码:

3.1 items文件代码:

import scrapy

class DangdangItem(scrapy.Item):

title=scrapy.Field()

link=scrapy.Field()

comment =scrapy.Field()

3.2 ddd文件代码:

import scrapy

from dangdang.items import DangdangItem

class DdSpider(scrapy.Spider):

name = 'ddd'

allowed_domains = ['dangdang.com']

start_urls = ['http://category.dangdang.com/pg1-cid4010275.html']

def parse(self, response):

item=DangdangItem()

item['title']=response.xpath('//p[@class="name"]/a/@title').extract()

item['link']=response.xpath('//p[@class="name"]/a/@href').extract()

item['comment']=response.xpath('//p[@class="star"]/a/text()').extract()

yield item

3.3pipeline文件代码

import pymysql

from dangdang.items import DangdangItem

class DangdangPipeline(object):

def process_item(self, item, spider):

conn=pymysql.connect(host="127.0.0.1",user="root",passwd="562390",db="dd")

cursor=conn.cursor()

for i in range(0,len(item["title"])):

title=item["title"][i]

link=item["link"][i]

comment=item["comment"][i]

sql="insert into ddw(title,link,comment)values('"+title+"','"+link+"','"+comment+"')"

conn.query(sql)

conn.close()

return item

当当网 用什么数据库 mysql_当当网爬取数据到MySQL数据库,没有信息。相关推荐

  1. [网络爬虫|smtp协议|python]东方财富网爬虫,python smtp协议发送爬取数据至QQ邮箱

    本文改自 [网络爬虫|smtp协议|python]东方财富网爬虫,python smtp协议发送爬取数据至QQ邮箱 之前写的爬虫单子,代码已经跑了快3个月了,后续又增加了一些需求,修改了一些小bug ...

  2. 高德地图交通态势爬取并存入MySQL数据库

    高德地图交通态势爬取并存入mysql数据库 高德地图交通态势开放api链接: 高德交通态势 高德地图交通态势使用流程: 第一步,申请"Web服务API接口"密钥(Key): 第二步 ...

  3. coba mysql_在Android Studio中将数据从MySQL数据库显示到TextView中-问答-阿里云开发者社区-阿里云...

    我是新手,Android Studio我想将数据库(我使用MySQL)中的数据显示到中TextView.我也使用Button和RadioButton.单击按钮后,数据将显示在中TextView.这是我 ...

  4. python将数据存入数据库_python3 两种方法将数据存入mysql数据库

    原博文 2017-09-22 18:25 − 方法一:(数据量小的时候推荐使用这种) 第一步:pip install mysqlclient 这里我没有报错 也许你可能会报错Read timed ou ...

  5. 基于ThinkPHP5 使用QueryList爬取 并存入mysql数据库

    QueryList4教程 地址: https://doc.querylist.cc/site/index/doc/45 在ThinkPHP5代码根目录执行composer命令安装QueryList: ...

  6. Python爬虫爬取数据到sqlite数据库实例

    萌新:使用xpath和正则表达式解析网页内容 代码如下: import sqlite3 import re import requests from lxml import htmlfindlink ...

  7. python股票数据库_利用Python爬股票数据并存入数据库Mysql

    直接上代码,小白也能爬股票......... import tushare as ts import mysql.connector import re,time #创建所有股票的表格以及插入每支股票 ...

  8. 雪球网爬取数据并存入数据库

    创建数据库连接 from urllib import request import json import pymysqlclass mysql_connect(object):# 初始化的构造函数d ...

  9. 组态中怎么使用mysql数据库_组态王中PLC数据连接MySQL数据库教程

    操作步骤: ①     确定中控室电脑连网,并且安装MySQL环境,下载地址如下:https://www.mysql.com/downloads/ ②     修改win MySQL服务信息(最好修改 ...

最新文章

  1. aspnet core 2.1中使用jwt从原理到精通一
  2. 代码中有个get是啥意思_是时候秀一波了,甩掉get和set,Lombok让代码更简洁
  3. linux系统电源时钟,linux电源管理的一些梳理
  4. LeetCode:999. 车的可用捕获量
  5. python endswith函数_Python Pandas Series.str.endswith()用法及代码示例
  6. html模板里处理数组,HTML模板 - 散列数组
  7. linux跟踪线程,linux跟踪线程的方法:LWP和strace命令
  8. Android 宏病毒,xls宏病毒,程序不落地创建傀儡进程实现远控
  9. linux篇—Nginx反向代理负载均衡
  10. 凉宫春日的忧郁第二章
  11. 高压柜无线测温装置-无线无源温度传感器-安科瑞 顾月
  12. 云e办(后端)——项目介绍及搭载项目
  13. Word/WPS 利用邮件合并批量生成文档
  14. 自动生成课堂分析报告写后感想
  15. 929. 独特的电子邮件地址(简单,字符串)(12.20)
  16. 梦幻西游新区服务器维护,梦幻西游2月新区2018 2月新开服务器介绍
  17. windows10下使用Ubuntu子系统
  18. 天基实业投资理财要合理配置资产
  19. SOC课程——②——Verilog程序(明德杨代码规范)
  20. flutter 定时器、返回上一页、设置最大最小宽度

热门文章

  1. 关于max病毒的初步解决办法
  2. 射频了解一丢丢【2】
  3. [TRT] TensorRT was linked against cuBLAS/cuBLAS LT 11.5.1 but loaded cuBLAS/cuBLAS LT 11.4.1
  4. 用Python写个自动批改作业系统
  5. Ubuntu 安装brew
  6. pylon主要示例功能说明
  7. 车载环境感知传感器介绍及比较
  8. 8通道汽车示波器模块(型号:PQ185)
  9. 优化VR体验的7个建议
  10. Java(TM) Platform SE binary 未响应