splash官方文档解读(翻译)

安装

splash是一个类似于selenium的自动化浏览器，不过它与selenium还是有很大区别的：比如splash是异步的，splash暴露httpAPI来自动化操作。

安装很简单，需要先安装docker，然后拉取镜像：
sudo docker pull scrapinghub/splash
启动splash：
sudo docker run -it -p 8050:8050 --rm scrapinghub/splash
如需在后台运行，只需把-it改成-d就行。

另外，还可以把容器内的目录映射到本地，这样你就可以修改本地文件夹内的文件来作用于容器，容器内有四个主要目录：

/etc/splash/filters：存放过滤器的文件夹
/etc/splash/proxy-profiles：存放代理配置的文件夹
/etc/splash/js-profiles：存放js脚本的文件夹
/etc/splash/lua_modules：存放lua脚本的文件夹

映射到本地的命令是(-v就表示映射文件夹)，其他类似：
docker run -p 8050:8050 -v 本地绝对路径:/etc/splash/filters scrapinghub/splash

Splash HTTP API

我们可以通过发送某种HTTP请求来使splash执行相应的操作，举个例子：
我们在浏览器输入127.0.0.1:8050/render.html?url=https://www.baidu.com这样你就可以让splash访问百度了，浏览器显示的内容就是splash返回的内容。但这有什么用呢？注意splash返回的是已经经过js渲染的页面，也就是说它可以加载动态页面，明白有什么用了吧。

splash 的httpapi既支持get也支持post，其中的一些参数可以作为get的参数发送，也可以作为post的内容发送(注意格式为json，而且请求头建议加入Content-Type: application/json)

render.html

返回渲染后页面的HTML
参数如下：

url：字符串，要访问的URL
baseurl：如果页面中某些资源包含相对URL，需要使用这个参数来填充前面那部分。
timeout：浮点数，超时时间
resource_timeout ：单个请求的超时时间，注意既然是会渲染页面，说明splash访问URL肯定不是一次请求，其中还包含很多ajax、js和图片的加载。
wait：页面加载后的等待时间，一般情况下都会指定一个较小的值(0.5)来防止一些不必要的异常
proxy：代理，格式为[protocol://][user:password@]proxyhost[:port]，protocol可以是http，也可以是socks5
js：需要执行js配置文件名称，也就是/etc/splash/js-profiles目录下的文件名称
js_source ：需要执行的js代码
filters：/etc/splash/filters存放的过滤器的文件名称，支持多个以逗号分隔。
allowed_domains：允许访问的域名列表(以逗号分隔)
allowed_content_types: 允许加载的内容类型列表,支持* 、?、[]、[!]四种通配符语法，具体参考fnmatch
forbidden_content_types：禁止加载的内容类型，我试了一下这两个参数没效果，难道是姿势不对。
viewport ：网页大小，格式为1024x768(默认)
images：是否下载图片。因为有缓存，所以返回的截图可能也是加载了图片的，只是加载的本地缓存而不是请求互联网。
headers：为第一个传出的请求设置的请求头，仅post方法支持该参数
body：如果目标请求是POST，该参数是POST请求正文
http_method：请求方法，默认GET
save_args：要放入缓存的参数名称列表，会在响应头中返回X-Splash-Saved-Arguments: name1=9a6747fc6259aa374ab4e1bb03074b6ec672cf99;name2=ba001160ef96fe2a3f938fea9e6762e204a562b3类似这样的内容，下次请求可以通过load_args传递相同的请求头来加载。一般用不上，js_source或lua_source 更方便。
load_args：加载save_args保存的参数名称列表，格式可以是save_args返回的响应头，并以请求头的格式发送，也可以是name1和值组成的json对象
html5_media：是否播放视频，默认0关闭
http2：是否启用http2，默认0
engine ：要使用的浏览器引擎，默认webkit，也可以是chromium。不建议修改。

render.png

返回js渲染后的页面png截图
参数除了render.html一样，还有：

width：宽度
height : 宽度
render_all : 是否全屏，默认0
scale_method : raster（逐像素缩放，默认）和vector(按元素缩放)。vector性能更高，字体更清晰，元素边界更明显。但是可能出现未知的问题，请谨慎使用。

render.jpeg

参数同render.png，还有：

quality : JPEG图片的质量，取值范围0-100，默认75。不建议大于95。

render.har

以HAR格式返回(什么是har格式可以自行百度)
参数与render.html相同
额外参数：

request_body：是否包含请求内容，默认0
response_body：是否包含响应内容，默认0

render.json

返回带有javascript渲染网页信息的json编码字典。
参数同render.jpeg，还有

html : 是否包含HTML，默认0
png : 是否包含PNG，默认0
jpeg :是否包含JPEG，默认0
iframes :是否包含子iframe的信息，默认0
script : 是否包含执行的js结果，默认0
console : 是否包含js控制台消息，默认0
history : 是否包含历史响应，默认0
har :是否包含HAR数据，默认0
request_body :如果值为1，返回结果将包含har记录，而且包含请求内容
response_body :如果值为1，返回结果将包含har记录，而且包含响应内容

execute

执行自定义脚本并返回结果

lua_source : lua脚本字符串
timeout : 同上
allowed_domains :同上
proxy :同上
filters :同上
save_args : 同上
load_args :同上

run

参数和作用同execute，区别在于脚本的格式。execute脚本必须包含在main函数中，而run脚本则可以是单独的语句，示例脚本如下：

execute脚本

function main(splash, args)assert(splash:go(args.url))assert(splash:wait(1.0))return splash:html()
end

run脚本

assert(splash:go(args.url))
assert(splash:wait(1.0))
return splash:html()

允许跨域

docker run -it -p 8050:8050 scrapinghub/splash --js-cross-domain-access

在网页中执行js代码

有两种方法：
1、使用render.html中的js_source参数或者js参数加载指定js文件，示例（建议使用POST请求）：

curl -X POST -H 'content-type: application/json' \-d '{"js_source": "document.title=\"My Title\";", "url": "http://example.com"}' \'http://localhost:8050/render.html'

2、带有指定请求头

curl -X POST -H 'content-type: application/javascript' \-d 'document.title="My Title";' \'http://localhost:8050/render.html?url=http://domain.com'

如果要获取js执行的结果，需使用render.json将script参数设置为1

请求过滤器(Request Filters)

Splash支持根据Adblock Plus规则过滤请求。你可以使用其easylist.txt
来删除广告，或者手动编写来阻止某些请求。例如阻止自定义字体文件的加载可以这些写：

.ttf|
.woff|

然后将这个文件命名为nofonts.txt，并在使用docker开启splash的时候将过滤器目录映射到本地(上面有说怎么映射)，接着将nofonts.txt放在这个目录。发起请求只需携带参数filters=nofonts就可以执行过滤器规则，例如：

curl 'http://localhost:8050/render.png?url=http://domain.com/page-with-fonts.html&filters=nofonts'

另外如果过滤器目录存在default.txt文件，则会自动启用。当然如果你不想启用，可以设置filters=none。关于自定义过滤器的语法请参考：https://help.eyeo.com/en/adblockplus/how-to-write-filters

代理配置文件(Proxy Profiles)

同过滤器规则，需先将代理配置目录映射到本地，接着讲代理配置文件放入目录。示例配置文件：

[proxy]; 代理IP和端口，分号为注释
host=proxy.crawlera.com
port=8010; 代理验证，默认为空
username=username
password=password; 代理类型，默认HTTP，还支持socks5
type=HTTP[rules]
;使用代理的白名单，默认.*
whitelist=.*mywebsite\.com.*; 使用代理的黑名单, 默认为空
blacklist=.*\.js.*.*\.css.*.*\.png

接着将文件保存在代理目录为myproxy.ini(名称任意)，然后只需在请求加入proxy=myproxy参数即可。另外，只有在白名单中并且不再黑名单中的才会使用代理，也就是说如果黑名单和白名单同时匹配，黑名单优先级更高。

可以看出代理文件的规则很简单，也就是正则编写的表达式以换行分隔就行了。另外，如果存在default.ini，则默认启用。使用proxy=none禁止。

_gc

回收内存清理缓存，只支持POST请求，示例：
curl -X POST http://localhost:8050/_gc

_debug

获取有关Splash实例的调试信息（使用的RSS数量上限，使用的文件描述符数量，活动请求，请求队列长度，活动对象的数量），以GET方式请求。
curl http://localhost:8050/_debug

_ping

要ping Splash实例，向/_ping端点发送GET请求,示例：
curl http://localhost:8050/_ping

lua脚本

如果以execute接口来执行lua脚本的话，格式需要遵循：

function main(splash, args)splash:go("http://example.com")splash:wait(0.5)local title = splash:evaljs("document.title")return {title=title}
end

另外关于一些lua的API可以直接参考：官方文档，写的很详细，很容易看懂。

scrapy-splash

如果你想将scrapy和splash整合在一起会怎么写？很简单，就像整合selenium一样添加一个splash中间件。

实际访问URL，splash其实就是在访问http://splashURL/render.html?url=URL，其他都没有变化所以我们只需在中间件中替换URL就可以了，不过splash还有一些参数怎么传递给中间件呢？使用request.meta即可。

至于scrapy-splash就不详细介绍了，只需要在settings.py中配置一些参数，然后在spider中将splash的参数添加到meta里即可。当然也可以使用SplashRequest，SplashRequest其实就是将参数保存在meta，做了一个封装。

SPLASH_URL = 'http://192.168.59.103:8050'
DOWNLOADER_MIDDLEWARES = {'scrapy_splash.SplashCookiesMiddleware': 723,'scrapy_splash.SplashMiddleware': 725,'scrapy.downloadermiddlewares.httpcompression.HttpCompressionMiddleware': 810,
}
SPIDER_MIDDLEWARES = {'scrapy_splash.SplashDeduplicateArgsMiddleware': 100,
}
DUPEFILTER_CLASS = 'scrapy_splash.SplashAwareDupeFilter'
HTTPCACHE_STORAGE = 'scrapy_splash.SplashAwareFSCacheStorage'

请求示例：

yield scrapy.Request(url, self.parse_result, meta={'splash': {'args': {# set rendering arguments here'html': 1,'png': 1,# 'url' is prefilled from request url# 'http_method' is set to 'POST' for POST requests# 'body' is set to request body for POST requests},# optional parameters'endpoint': 'render.json',  # optional; default is render.json'splash_url': '<url>',      # optional; overrides SPLASH_URL'slot_policy': scrapy_splash.SlotPolicy.PER_DOMAIN,'splash_headers': {},       # optional; a dict with headers sent to Splash'dont_process_response': True, # optional, default is False'dont_send_headers': True,  # optional, default is False'magic_response': False,    # optional, default is True}
})

更多参考：https://github.com/scrapy-plugins/scrapy-splash