技能标签
专业技能
Python开发:精通Django/Flask框架,熟悉Tornado异步框架。前端开发:熟练使用Vue/React框架,掌握jQuery基础。数据库:深度使用MySQL,熟悉Redis缓存技术。开发工具:PyCharm/VS Code代码编辑器,vim终端操作。网络协议:精通HTTP/TCP/IP通信协议,熟悉WebSocket实时通信。英语:英语(CET-4,可阅读英文技术文档)
工作履历(脱敏处理)
专注于Python全栈开发领域,具备3年实际项目经验。主导多个数据采集系统开发,包括异步爬虫系统设计与分布式爬虫架构搭建,实现日均百万级数据采集。深度参与Web应用开发,采用Django/Flask框架完成前后端分离架构设计,优化系统性能提升30%。熟练运用Scrapy框架处理复杂爬虫场景,通过Redis缓存技术实现数据分页处理,结合MySQL数据库优化策略提升数据存储效率。具备完整的开发流程管理能力,包括需求分析、系统设计、代码实现、测试部署及后期维护。
项目经验(脱敏处理)
项目一:异步爬虫系统开发(HGMD数据采集)
1. 采用asyncio+aiohttp实现高并发数据采集,通过异步非阻塞IO提升吞吐量
2. 设计超时重试机制(timeout+重发策略),解决跨国网络延迟导致的采集失败问题
3. 实现基于Cookie的反爬策略应对,通过继承ClientSession类持久化Cookie信息
4. 使用XPath进行HTML解析,结合PyMySQL实现MySQL数据库存储
项目二:分布式爬虫系统开发(企业信用信息网)
1. 基于Scrapy框架构建爬虫架构,实现首页数据抓取与分页请求处理
2. 采用XPath匹配信息块,通过Scrapy.FormRequest处理POST表单提交
3. 设计Redis缓存中间件,实现采集数据的分布式存储与分页处理
4. 开发数据转换脚本,将Redis数据批量写入MySQL数据库
其他项目:搜狐新闻、豆瓣、腾讯新闻网等网站数据采集,完成多源数据整合与清洗
驻场外包优势
服从性高
严格遵守甲方管理制度
技术扎实
3年项目实战经验
可长期驻场
接受异地项目外派
快速响应
24小时内可到岗
企业人才对接
专业IT人力外包服务
如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。
合作热线
18969108718
商务邮箱
ntit@163.com
微信扫码咨询
扫描二维码添加商务对接