职位来源于智联招聘。
岗位职责:
1、负责爬虫核心算法的策略优化研究,提升爬虫抓取效率和质量;
2、负责大规模数据爬虫的性能优化、监控和报警,提高爬虫产品的稳定性和抓取效率;
3、实时监控爬虫的状态和警报反馈。
任职要求:
1、计算机或相关专业本科以上学历,2年以上爬虫工作经验;
2、熟练掌握Python开发,有代码规范和质量意识;
3、有日千万级及以上的大规模数据爬虫项目经验;
4、有实际大规模使用过消息队列经验,如RabitMq、Kafka等;
5、了解并使用过ElasticSearch等分布式搜索引擎库;
6、熟悉常见反爬机制,验证码识别,IP代理池、headers认证、cookie等;
7、对以下平台(TikTok、YouTube、Instagram等平台)数据有实际抓取经验的优先。
以担保或任何理由索要财物,扣押证照,均涉嫌违法。
Python爬虫工程师
上海宝衢文化传播有限公司
Shanghai, Shanghai, China
Python爬虫工程师
上海飞未信息技术有限公司
Wuhan, Hubei, China
python爬虫工程师
翼果(深圳)科技有限公司
Shenzhen, Guangdong, China
python爬虫工程师
Beijing Trs Information Technology Co., Ltd.
Beijing, Beijing, China
python爬虫工程师
河北华网计算机技术有限公司
Shijiazhuang, Hebei, China
python爬虫工程师
消费者报道杂志社有限公司
Guangzhou, Guangdong, China