微博页面用户信息抓取采集方法
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
微博页面用户信息抓取采集方法
本文介绍使用八爪鱼采集器简易模式采集抓取微博页面用户信息的方法。
需要采集微博内容的,在网页简易模式界面里点击微博进去之后可以看到所有关于微博的规则信息,我们直接使用就可以的。
微博页面用户信息抓取步骤1
批量采集微博每个用户界面的信息(下图所示)即在博主个人主页的信息
1、找到微博用户页面信息采集任务然后点击立即使用
微博页面用户信息抓取步骤2
2、简易采集中微博用户页面信息采集的任务界面介绍
查看详情:点开可以看到示例网址;
任务名:自定义任务名,默认为微博用户页面信息采集;
任务组:给任务划分一个保存任务的组,如果不设置会有一个默认组;
网址:用于填写博主个人主页的网址,可以填写多个,用回车分隔,一行一个,将鼠标移动到?号图标和任务名顶部文字均可以查看详细的注释信息;
示例数据:这个规则采集的所有字段信息。
微博页面用户信息抓取步骤3
3、任务设置示例
例如要采集与相关的微博消息
在设置里如下图所示:
任务名:自定义任务名,也可以不设置按照默认的就行
任务组:自定义任务组,也可以不设置按照默认的就行
网址:从浏览器中直接复制博主个人主页的网址,此处以“人民日报”和“雷军”为例。示例网址:/rmrb?is_all=1
/leijun?refer_flag=1001030103_&is_all=1
设置好之后点击保存
微博页面用户信息抓取步骤4
保存之后会出现开始采集的按钮
微博页面用户信息抓取步骤5
4、选择开始采集之后系统将会弹出运行任务的界面
可以选择启动本地采集(本地执行采集流程)或者启动云采集(由云服务器执行采集流程),这里以启动本地采集为例,我们选择启动本地采集按钮。
微博页面用户信息抓取步骤6
5、选择本地采集按钮之后,系统将会在本地执行这个采集流程来采集数据,下
图为本地采集的效果
微博页面用户信息抓取步骤7
6、采集完毕之后选择导出数据按钮即可,这里以导出excel2007为例,选择这
个选项之后点击确定
微博页面用户信息抓取步骤8
7、然后选择文件存放在电脑上的路径,路径选择好之后选择保存
微博页面用户信息抓取步骤9
8
、这样数据就被完整的导出到自己的电脑上来了
新浪微博数据采集
豆瓣电影短评采集
搜狗微信文章采集
八爪鱼——70万用户选择的网页数据采集器。
1、操作简单,任何人都可以用:无需技术背景,会上网就能采集。完全可视化流程,点击鼠标完成操作,2分钟即可快速入门。
2、功能强大,任何网站都可以采:对于点击、登陆、翻页、识别验证码、瀑布流、Ajax脚本异步加载数据的网页,均可经过简单设置进行采集。
3、云采集,关机也可以。配置好采集任务后可关机,任务可在云端执行。庞大云采集集群24*7不间断运行,不用担心IP被封,网络中断。
4、功能免费+增值服务,可按需选择。免费版具备所有功能,能够满足用户的基本采集需求。同时设置了一些增值服务(如私有云),满足高端付费企业用户的需要。