京东数据抓取方法,以列表页信息抓取为例

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

京东数据抓取方法,以列表页信息抓取为例

本文介绍使用八爪鱼采集器简易模式抓取京东数据(以列表页信息抓取为例)的方法。

京东数据抓取数据字段:京东商品名称,商品价格,店铺名称,店铺链接,总评价数,选购指数,店铺类型,当前页面网址,采集时间。

需要采集京东内容的,在网页简易模式界面里点击京东进去之后可以看到所有关于京东的规则信息,我们直接使用就可以的。

京东数据抓取步骤

1

采集京东批量list 开头网址列表页信息采集(下图所示)即打开京东主页输入关键词进行搜索后的列表页或通过一系列点击进行筛选后的列表页,采集该列表页所展现的内容。

通过本任务可以批量获取到商品详情链接,该链接可用商品详情采集和商品评价采集。

京东数据抓取步骤2

1、找到京东批量list开头网址列表页信息采集规则然后点击立即使用

京东数据抓取步骤3

2、下图简易模式中京东批量list开头网址列表页信息采集的任务操作界面,此任务仅需添加网址即可实现自动化采集。

查看详情:点开可以看到示例网址,示例网址为:

/list.html?cat=737,794,798

任务名:自定义任务名,默认为京东批量list开头网址列表页信息采集

任务组:给任务划分一个保存任务的组,如果不设置会有一个默认组

列表页网址:填写以list开头的网址,即商品列表页。如需填入多个可用回车(Enter)分隔开,建议不超过2万条URL。示例:

https:///list.html?cat=9987,653,655

https:///list.html?cat=670,671,672&ev=exbrand%5F8551%40244 %5F73393%40933%5F88787%40149%5F17976%40exprice%5FM3900L5199&sort=sort

%5Ftotalsales15%5Fdesc&trans=1&JL=3_%E4%BB%B7%E6%A0%BC_3900-5199#J_cr umbsBar

示例数据:这个任务采集的所有字段信息

京东数据抓取步骤4

京东数据抓取步骤5

3、规则制作示例

例如采集“手机”和“华硕15.6寸4G内存I5低功能处理的笔记本”的列表数据

任务名:自定义任务名,也可以不设置按照默认的就行

任务组:自定义任务组,也可以不设置按照默认的就行

列表页网址:提供要采集的以list开头的网页网址,即商品列表页的链接。支持填入多个网址,建议不超过2万条网址。将鼠标移动到?号图标可以查看详细的注释信息。

设置好之后点击保存

京东数据抓取步骤6

保存之后会出现开始采集的按钮

京东数据抓取步骤7

4、选择开始采集之后系统将会弹出运行任务的界面

可以选择启动本地采集(本地执行采集流程)或者启动云采集(由云服务器执行采集流程),这里以启动本地采集为例,我们选择启动本地采集按钮

京东数据抓取步骤8

5、选择本地采集按钮之后,系统将会在本地执行这个采集流程来采集数据,下图为本地采集的效果(示例中商品数据较多,为方便展示故先行停止采集,诸位可以根据需求决定是否采集完。)

京东数据抓取步骤9

6、采集完毕之后选择导出数据按钮即可,这里以导出excel2007为例,选择这个选项之后点击确定

京东数据抓取步骤10

7、然后选择文件存放在电脑上的路径,路径选择好之后选择保存

京东数据抓取步骤11

8、这样数据就被完整的导出到自己的电脑上来了

京东数据抓取步骤12

相关采集教程:

京东商品信息采集

黄页88数据采集

58同城信息采集

八爪鱼——70万用户选择的网页数据采集器。

1、操作简单,任何人都可以用:无需技术背景,会上网就能采集。完全可视化流程,点击鼠标完成操作,2分钟即可快速入门。

2、功能强大,任何网站都可以采:对于点击、登陆、翻页、识别验证码、瀑布流、Ajax脚本异步加载数据的网页,均可经过简单设置进行采集。

3、云采集,关机也可以。配置好采集任务后可关机,任务可在云端执行。庞大云采集集群24*7不间断运行,不用担心IP被封,网络中断。

4、功能免费+增值服务,可按需选择。免费版具备所有功能,能够满足用户的基本采集需求。同时设置了一些增值服务(如私有云),满足高端付费企业用户的需要。

相关文档
最新文档