用 puppeteer 模拟人工实现网盘链接批量转存

需求分析

别人分享了很多网盘链接，自己每个手动去转存很浪费时间，而且，这些操作都是重复性劳动。与Pandownload的这个功能类似，不过pandownload由于一些原因无法使用了，所以只能自己实现。

思路

思路其实很简单，就是完全模拟人为操作，将网盘链接存起来。我们可以把网盘链接分为两种，第一种是没有提取码的，第二种是有提取码的。前者比后者少一个提交提取码的步骤。那么，我们

如何区分，访问一个网盘链接的时候，究竟是哪种呢？

可以通过访问页面的title来决定。这种是无提取码的，后缀是无限制 这种是需要填写提取码的，后缀是请输入提取码，写代码的时候，截取后三个字儿提取码即可

填写Cookie信息

批量转存的前提是，我们得登录，我这里实现的方案是直接从浏览器中获取到cookie信息，复制到代码中进行使用，查看网站的cookie信息可以用插件EditThisCookie 点击右上角导出Cookie，cookie就放在粘贴板中了，复制到代码中，然后使用循环，将所有cookie利用page.setCookie方法，将cookie放置到当前请求上下文中

填写提取码

等待页面加载完毕，找到输入提取码框的元素，找到其id，然后使用page.$$eval()方法获取并写入东西可以看见，这里的id为accessCode。所以我们只需要写

await page.$$eval('#accessCode', writeCode, code);
async function writeCode(nodes, code) {for (let node of nodes) {node.value = code;}
}

就可以了。我这里是直接改的node.value，你也可以用puppeteer模拟人来填写。

提取文件

找到提取文件按钮，点击，然后等待跳转完毕。值得注意的是，我们点击的一定是A标签，其他标签需要进行过滤。

await page.$$eval('.g-button-blue-large', click);
await page.waitFor(1000);async function click(nodes) {for (let node of nodes) {if (node.title === '提取文件') {await node.click();}}
}

然后等待跳转即可

选择要保存的文件

这里简单实现为，选择全部文件，不过值得注意的是，如果是单文件，是不需要点击选择全部文件的。可以通过判断元素是否存在判断是否有复选框，是否需要进行点击如图，不过这里奇怪的是，class的值是一个不可读的字符串，我不确定这个值是不是与用户有关，所以这里就打码了。既然需要做的就是找到这个元素，点击就行了，那我们照着做就行

await page.$$eval('.zbyDdwb', selectAll);async function selectAll(nodes) {for (let node of nodes) {await node.click();break;}
}

点击保存到网盘

与点击提取文件一样，找到目表按钮，然后点击就行，感兴趣的朋友，可以自己试试

弹出框选择保存的文件路径

避免麻烦，这里写得比较简单，如果有选择跟上一次样的框，那么就点击选择跟上一次一样，如果没有，就直接存储在根目录下。（可以根据你想要的需求自己改）选择前选择后可以发现，仅仅是改变了Class的值，所以实现的时候，也改变一下值就行

await page.$$eval('.save-path-item', chooseLocation);
async function chooseLocation(nodes) {for (let node of nodes) {node.setAttribute('class', 'save-path-item check');}
}

点击确定按钮

与之前几个按钮一样，我们只需要找到确认按钮，点击就行了。

await page.$$eval('[title=确定]', confirm)
async function confirm(nodes) {for (let node of nodes) {console.log(node.tagName);if (node.tagName === 'A') {await node.click();}}
}

这样，整个逻辑就完成了。

完整代码

为了程序能正常运行，需要加入一些额外的waitFor等待，避免操作太快导致的诸如IP封禁，元素未加载出来等乱七八糟的问题。同时，我这里数据都是从数据库中出来的，所以里面有与更新数据库状态的代码。

const Pan = require('../model/Pan');
const {Cluster} = require('puppeteer-cluster');
const crawler = require('./crawler');const cookies = [];async function selectAll(nodes) {console.log('selectAll',nodes.length);for (let node of nodes) {await node.click();break;}
}async function click(nodes) {console.log('click',nodes.length);for (let node of nodes) {if (node.title === '提取文件') {await node.click();}}
}async function writeCode(nodes, code) {console.log('writeCode',nodes.length);for (let node of nodes) {node.value = code;}
}async function confirm(nodes) {console.log(nodes.length);for (let node of nodes) {console.log(node.tagName);if (node.tagName === 'A') {await node.click();}}
}async function clickSave(nodes) {for (let node of nodes) {if (node.tagName === 'A') {await node.click();break;}}
}async function chooseLocation(nodes) {for (let node of nodes) {node.setAttribute('class', 'save-path-item check');}
}async function saveBaidu() {const cluster = await Cluster.launch(crawler.clusterLanuchOptionsPan);await cluster.task(async ({page, data}) => {let {id, url, code} = data;for (let i = 0; i < cookies.length; i++) {await page.setCookie(cookies[i]);}await page.goto(url);await page.waitForSelector('html');await page.content();let title = await page.title();let codeWrong = false;let used = true;let needCodeButNone = false;if (title.indexOf('提取码') !== -1) {// todo 填写提取码if (code === '-' || code === '+') {needCodeButNone = true;} else {await page.$$eval('#accessCode', writeCode, code);await page.$$eval('.g-button-blue-large', click);await page.waitFor(1000);let content = await page.content();if (content.indexOf('验证码错误') !== -1) {used = false;} else if (content.indexOf('提取码错误') !== -1) {codeWrong = true;used = false;} else {await page.waitFor(2000);}}}if (used && !needCodeButNone) {title = await page.title();await page.waitFor(1000);console.log(title);if (title.indexOf('不存在') !== -1) {} else {// todo 找到title=保存到网盘的a标签并点击let x = await page.$$('.zbyDdwb');console.log(x.length);if (!(x === null || x===undefined || x.length === 0)){await page.$$eval('.zbyDdwb', selectAll);}await page.$$eval('[title=保存到网盘]', clickSave);await page.$$eval('.save-path-item', chooseLocation);await page.waitFor(2000);await page.$$eval('[title=确定]', confirm);}}await Pan.update({used: used,code_wrong: codeWrong,need_code: needCodeButNone}, {where: {id: id}});await page.waitFor(3000);});let pans = await Pan.findAll({where: {site_id:12,reachable: true,used:false,code_wrong:false}});console.log(pans.length);for (let i = 0; i < pans.length; i++) {if (pans[i].url.startsWith('http://pan.baidu') || pans[i].url.startsWith('https://pan.baidu')) {await cluster.queue({id: pans[i].id,url: pans[i].url,code: pans[i].code});}}await cluster.idle();
}(async () => {await saveBaidu();
})();// crawler.clusterLanuchOptionsPan 是启动配置项，如下
const launchOptions = {headless: true,ignoreHTTPSErrors: true,        // 忽略证书错误waitUntil: 'networkidle2',defaultViewport: {width: 1920,height: 1080},args: ['--disable-gpu','--disable-dev-shm-usage','--disable-web-security','--disable-xss-auditor',    // 关闭 XSS Auditor'--no-zygote','--no-sandbox','--disable-setuid-sandbox','--allow-running-insecure-content',     // 允许不安全内容'--disable-webgl','--disable-popup-blocking',//'--proxy-server=http://127.0.0.1:8080'      // 配置代理],executablePath: 'C:\\Program Files (x86)\\Google\\Chrome\\Application\\chrome.exe',
};const clusterLanuchOptionsPan = {concurrency: Cluster.CONCURRENCY_PAGE,  // 单Chrome多tab模式maxConcurrency: 1,  // 并发的workers数retryLimit: 2,   // 重试次数skipDuplicateUrls: true,  // 不爬重复的urlmonitor: false,  // 显示性能消耗puppeteerOptions: launchOptions,
};

炒鸡辣鸡原创文章，转载请注明来源