數(shù)據(jù)采集及數(shù)據(jù)分析入庫(后端開發(fā))
1. 熟悉PYTHON爬蟲(動態(tài)循環(huán)采集)
2. 熟悉REDIS + LUA + MYSQL 編程及應(yīng)用
3. 熟悉數(shù)據(jù)清洗, 數(shù)據(jù)結(jié)構(gòu)化, 算法定義(解析及計算模塊)
統(tǒng)一循環(huán)時間, 對多條源網(wǎng)址( xml + json )進行關(guān)鍵字段采集
對采集數(shù)值做并行計算之后, 可實時調(diào)用及入庫
有高并發(fā)的查詢需求
與股票實時采集及計算分析相似