职位描述
岗位职责:
1.针对性采集信息流相关资讯平台,负责大数据采集的设计、研发与维护;
2.设计大数据采集策略与算法,提升采集效果;
3.持续优化系统,提高系统的自动化、稳定性及性能。
任职要求:
1、java或python大数据采集、APP端开发两年及以上经验。
2、熟悉常用数据结构及算法。
3、熟悉Linux操作系统、熟悉HTTP协议,精通大数据采集相关技术,如:httpClient/jSoup/xpath/正则表达式/验证码加密处理/代理池等。
4.熟悉Mysql,mongodb二者至少之一。