设为首页收藏本站

LUPA开源社区

 找回密码
 注册
文章 帖子 博客
LUPA开源社区 首页 业界资讯 软件追踪 查看内容

风铃虫1.2.0发布了,新增脚本提取功能

2020-4-14 10:46| 发布者: joejoe0332| 查看: 405| 评论: 0|原作者: oschina|来自: oschina

摘要: 风铃虫是一款轻量级的高效爬虫工具,配置简单,方便二次开发,能抓取js渲染的网页,可以抓取任何数据,支持保存网页快照,智能防封杀,天然适合分布式。 作为疫情之后第一次更新的版本,风铃虫本次更新功能较多,新 ...
风铃虫是一款轻量级的高效爬虫工具,配置简单,方便二次开发,能抓取js渲染的网页,可以抓取任何数据,支持保存网页快照,智能防封杀,天然适合分布式。

作为疫情之后第一次更新的版本,风铃虫本次更新功能较多,新增了通过脚本自定义数据提取功能,使得提取功能更加强大。

同时,为了普通用户更好的进行内容页判断,本次优化了内容页确认机制,可以更加方便的决定哪些页面的数据需要抓取,进一步提升抓取效率。

本次更新内容如下:

1 增加脚本提取策略,支持通过js脚本从下载的网页中个提取出符合要求的数据信息
2 增加内容页匹配规则和内容页过滤器,内容页选择方式更灵活
3 优化代码风格,规范代码,使之更符合阿里开发规约
4 优化模拟测试接口,增加内容提取测试、链接提取、网页下载、内容页规则测试接口
5 优化内容页处理策略,提升内容页处理性能
6 优化事件监听接口,对处理细节更加了然入心
7 其他一些优化

源码地址: https://gitee.com/zhiyubujian/wind-bell
API文档: https://apidoc.gitee.com/zhiyubujian/wind-bell/


酷毙

雷人

鲜花

鸡蛋

漂亮
  • 快毕业了,没工作经验,
    找份工作好难啊?
    赶紧去人才芯片公司磨练吧!!

最新评论

关于LUPA|人才芯片工程|人才招聘|LUPA认证|LUPA教育|LUPA开源社区 ( 浙B2-20090187 浙公网安备 33010602006705号   

返回顶部