久久黄色a级片,日韩久久久久久久久,欧美黄色网视频,成人免费一级淫片,亚洲精品免费观看视频,自拍偷拍精品网,а√天堂资源中文最新版资源下载

崗位職責:
1、負責多平臺信息爬取和頁面內容的提取分析，負責破解各類反爬機制;
2、負責網頁的數(shù)據抓取和爬取鏈路優(yōu)化(包括逆向分析、脫殼、加密參數(shù)破解、抓取攻防等)，提升抓取能力;
3、負責日常業(yè)務系統(tǒng)運營支撐工作(bsp,vsim-cor e，web 網站，終端系統(tǒng)，業(yè)務應用監(jiān)控系統(tǒng)等)，相關運營支撐工具的開發(fā)(python、go);
4、負責業(yè)務運營支撐系統(tǒng)的部署、發(fā)布、變更以及持續(xù)優(yōu)化;針對各系統(tǒng)編寫并維護自動化運維腳本;

任職要求:
1、3年以上python爬蟲經驗，本科及以上學歷，計算機相關專業(yè)，有電商類數(shù)據經驗優(yōu)先;
2、熟練掌握python語言或java語言，熟練掌握js語言、有app數(shù)據采集經驗者優(yōu)先;
3、精通數(shù)據采集技術，熟悉httpclient/jsoup/xpath/c ss/正則表達式/驗證碼加密處理/代理池等網頁信息抽取技術，熟悉http底層協(xié)議;熟悉mysql、redis、elastic search、clickhouse等數(shù)據，熟悉linux，mysql，有一定的公有云經驗，了解sparksql，spark mllib，s park streaming以及spark graphx，hadoop、hive等大數(shù)據工具，amazon sagemaker;
4、精通各種反爬技術，并能夠通過多種應對策略(如代理池、模擬登錄、驗證碼與滑塊的處理、瀏覽器渲染等)來保證數(shù)據的持續(xù)交付;
5、熟悉網頁數(shù)據采集原理及技術，熟悉基于cookie的網站登錄原理;