技能标签
专业技能
精通Python编程语言,掌握MySQL数据库优化与事务管理,熟悉Redis分布式缓存及MongoDB文档数据库应用。精通XPath、re、json等数据解析工具,具备Selenium+PhantomJS动态页面抓取能力。熟练使用Scrapy框架构建分布式爬虫系统,掌握Scrapy-Redis任务分发与结果聚合技术。熟悉Django Web开发框架,具备Linux系统运维能力。掌握JavaScript、Ajax、JQuery等前端技术,熟悉前后端分离架构设计。
工作履历(脱敏处理)
专注于Python开发与数据抓取技术的研究与实践,具备完整的项目开发与技术培训经验。主导设计分布式爬虫架构,通过Scrapy-Redis实现任务分发与结果聚合,有效应对反爬虫策略。开发基于Django的Web管理系统,实现数据可视化展示与用户权限管理。持续优化数据库查询性能,采用索引优化与分表策略提升系统吞吐量。同时具备Linux系统部署与监控能力,能够独立完成服务器环境搭建与性能调优。
项目经验(脱敏处理)
新浪微博数据抓取项目:设计分布式爬虫架构,利用Scrapy-Redis实现任务分发与结果聚合,有效应对反爬虫策略。通过Selenium+PhantomJS模拟移动端浏览器环境,解决动态渲染页面的数据抓取难题。采用XPath与正则表达式进行数据解析,结合json模块实现结构化数据存储。优化爬虫调度策略,通过设置请求头模拟用户行为,提升反爬虫应对能力。最终实现日均百万级数据抓取,建立完整的数据清洗与存储流程。
驻场外包优势
服从性高
严格遵守甲方管理制度
技术扎实
1年项目实战经验
可长期驻场
接受异地项目外派
快速响应
24小时内可到岗
企业人才对接
专业IT人力外包服务
如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。
合作热线
18969108718
商务邮箱
ntit@163.com
微信扫码咨询
扫描二维码添加商务对接