摘要
针对大数据时代用户对电子商务信息采集与分析的需求,设计并实现了一个高扩展性的基于Scrapy的电商网站信息采集系统,能解决异步数据加载带来的数据采集困难的问题,系统采用了casperjs、redis、graphite等框架和技术进一步增强了对电商内容爬取的适应能力和可扩展性。系统能够工作在云计算环境下,具有非常高的应用价值。
出处
《数字技术与应用》
2015年第3期67-68,共2页
Digital Technology & Application
基金
广西财经学院数量经济学创新团队基金(2014CX02
2014CX03)
广西自科然科学基金(2013GXNSFBA019274)
广西教育厅基金(2013LX135)
广西财经学院基金(2012D13)