设为首页收藏本站

LUPA开源社区

 找回密码
 注册
文章 帖子 博客
LUPA开源社区 首页 业界资讯 软件追踪 查看内容

Gecco 1.2.0发布,支持运行时抓取规则配置

2016-7-5 23:06| 发布者: joejoe0332| 查看: 576| 评论: 0|原作者: oschina|来自: oschina

摘要: Gecco 1.2.0 发布了,该版本改进内容包括:1.HttpClientDownloader保证inputstream能重复使用,@shangjian提供修改思路2.支持一个Before/AfterDownloader对应多个SpiderBean3.Gecco的动态编程是新版本的核心功能,Ge ...

Gecco 1.2.0 发布了,该版本改进内容包括:

1.HttpClientDownloader保证inputstream能重复使用,@shangjian提供修改思路

2.支持一个Before/AfterDownloader对应多个SpiderBean

3.Gecco的动态编程是新版本的核心功能,Gecco支持动态生成SpiderBean包括类,属性,注解。可以不需要预先定义SpiderBean即可完成抓取。详细情况可以参考http://my.oschina.net/u/2336761/blog/706041

通过动态特性,可以实现如下功能:

  1. 已经定义了ORM(如:hiberante)的bean,将注解动态的加载到ORM的bean中,可以很方便的将页面格式化后入库

  2. 很多类似的网站的抓取,SpiderBean都一样,只是提取元素的cssPath不一样,为了不构建很多重复的SpiderBean,可以考虑动态生成SpiderBean

  3. 通过配置的方式抓取页面,通过后台管理系统、配置文件等配置抓取规则,动态的将配置规则转换成SpiderBean

  4. 利用动态SpiderBean可以构建可视化爬虫,利用可视化工具构建抓取规则,将规则动态转换为SpiderBean


酷毙

雷人

鲜花

鸡蛋

漂亮
  • 快毕业了,没工作经验,
    找份工作好难啊?
    赶紧去人才芯片公司磨练吧!!

最新评论

关于LUPA|人才芯片工程|人才招聘|LUPA认证|LUPA教育|LUPA开源社区 ( 浙B2-20090187 浙公网安备 33010602006705号   

返回顶部