工作職責(zé)： 1、負(fù)責(zé)數(shù)據(jù)爬蟲(chóng)系統(tǒng)的設(shè)計(jì)和開(kāi)發(fā)工作，能應(yīng)對(duì)各種網(wǎng)站的反爬機(jī)制，順利爬取數(shù)據(jù)； 2、負(fù)責(zé)數(shù)據(jù)爬取、解析、清洗、入庫(kù)等工作； 3、幫助團(tuán)隊(duì)解決各種爬蟲(chóng)技術(shù)問(wèn)題，提升海量數(shù)據(jù)系統(tǒng)的抓取效果與性能。 任職資格： 1、本科及以上學(xué)歷，熟練使用python，并掌握常用的信息抽取工具，如正則表達(dá)式、Xpath等； 2、熟悉JavaScript、html、css、并能夠通過(guò)調(diào)試網(wǎng)頁(yè)代碼搜索請(qǐng)求地址并進(jìn)行模擬； 3、熟悉常用反爬機(jī)制并能夠進(jìn)行破解； 4、熟悉常用的IP代理訪問(wèn)方式； 5、熟悉多線程、網(wǎng)絡(luò)編程以及分布式爬蟲(chóng)架構(gòu)開(kāi)發(fā)場(chǎng)景； 6、了解大數(shù)據(jù)技術(shù)如hadoop、spark等。