職位描述：

職位描述：

1.負(fù)責(zé)大數(shù)據(jù)平臺的架構(gòu)設(shè)計、環(huán)境和框架的搭建以及部分核心編碼工作；

2.參與業(yè)務(wù)需求調(diào)研，根據(jù)需求及行業(yè)特點設(shè)計大數(shù)據(jù)解決方案并跟進(jìn)具體實施項目；

3.規(guī)劃公司級數(shù)據(jù)平臺，架構(gòu)實時流與離線數(shù)據(jù)計算平臺；

4.對業(yè)務(wù)需求進(jìn)行分析建模并持續(xù)進(jìn)行優(yōu)化，包括但不限于推薦、排序、用戶畫像等。

任職要求：

1.本科及以上學(xué)歷，5年以上大數(shù)據(jù)開發(fā)經(jīng)驗；

2.深刻理解Hadoop、Hive、Spark、Kafka、Elasticsearch、HBase、Storm、Sqoop、Zookeeper、Flume的工作原理及應(yīng)用；

3.深刻理解大數(shù)據(jù)處理實時流計算、分布式計算、分布式文件系統(tǒng)、分布式存儲等相關(guān)技術(shù)和實現(xiàn)方法，有架構(gòu)和設(shè)計實踐經(jīng)驗；

4.精通Scala/Java語言的一種或多種；

5.有數(shù)據(jù)倉庫、大數(shù)據(jù)平臺及數(shù)據(jù)挖掘架構(gòu)設(shè)計經(jīng)驗

篇2:大數(shù)據(jù)系統(tǒng)架構(gòu)師崗位職責(zé)大數(shù)據(jù)系統(tǒng)架構(gòu)師職責(zé)任職要求

大數(shù)據(jù)系統(tǒng)架構(gòu)師崗位職責(zé)

職責(zé)描述:

1.負(fù)責(zé)客戶業(yè)務(wù)需求、數(shù)據(jù)分析需求的調(diào)研、收集與分析;

2.負(fù)責(zé)Kyligence大數(shù)據(jù)平臺整體架構(gòu)和數(shù)據(jù)架構(gòu)設(shè)計,根據(jù)具體業(yè)務(wù)需求和產(chǎn)品對數(shù)據(jù)模型進(jìn)行統(tǒng)一分析和規(guī)劃;

3.負(fù)責(zé)技術(shù)設(shè)計及技術(shù)實現(xiàn)規(guī)范編制,指導(dǎo)開發(fā)團(tuán)隊進(jìn)行項目設(shè)計、項目實現(xiàn)及技術(shù)匯報;

4.負(fù)責(zé)項目重難點模塊的功能設(shè)計和難點攻堅;

5.參與大數(shù)據(jù)平臺的應(yīng)用設(shè)計、開發(fā)、測試及優(yōu)化工作。

任職要求:

1.計算機(jī)相關(guān)專業(yè),本科及以上學(xué)歷;

2.有5年以上工作經(jīng)驗,3年以上數(shù)據(jù)倉庫架構(gòu)和大數(shù)據(jù)系統(tǒng)設(shè)計經(jīng)驗;

3.精通Hadoop、Hive、HBase原理及優(yōu)化,熟悉大數(shù)據(jù)生態(tài)技術(shù)圈,如Storm、Spark、Flume、Sqoop、Kafka、Zookeeper、ES等,有大規(guī)模集群架構(gòu)設(shè)計、開發(fā)及管理經(jīng)驗;

4.熟練使用SQL語言,掌握Oracle、DB2、GP、MySQL等至少兩種數(shù)據(jù)庫系統(tǒng)的使用,有較好的SQL性能調(diào)優(yōu)經(jīng)驗;

5.至少熟悉Java,Scala,Python,Shell等編程語言中的2種;

6.熟悉數(shù)據(jù)治理及應(yīng)用,元數(shù)據(jù)管理的設(shè)計與應(yīng)用;

7.熟悉數(shù)據(jù)倉庫模型的設(shè)計,分層設(shè)計原理,并結(jié)合大數(shù)據(jù)技術(shù)組建解決模型應(yīng)用的問題;

8.優(yōu)秀的分析和解決問題的能力,對挑戰(zhàn)性問題充滿激情;

9.具備良好的文檔撰寫能力和技術(shù)團(tuán)隊管理能力;

10.具備良好的團(tuán)隊合作精神,較強(qiáng)的溝通能力,具備良好的技術(shù)領(lǐng)導(dǎo)能力;

11.有Hive數(shù)據(jù)倉庫或者ApacheKylin的開發(fā)經(jīng)驗者優(yōu)先考慮;

篇3:大數(shù)據(jù)架構(gòu)師崗位職責(zé)大數(shù)據(jù)架構(gòu)師職責(zé)任職要求

大數(shù)據(jù)架構(gòu)師崗位職責(zé)

工作職責(zé):

負(fù)責(zé)大數(shù)據(jù)開發(fā)、數(shù)據(jù)挖掘、算法平臺的技術(shù)架構(gòu)及建設(shè);

負(fù)責(zé)大數(shù)據(jù)實時檢索分析平臺的架構(gòu)和建設(shè);

負(fù)責(zé)PCG業(yè)務(wù)算法推薦,實時流計算框架的研發(fā)優(yōu)化;

跟蹤移動互聯(lián)網(wǎng)開源大數(shù)據(jù)框架、新算法框架的技術(shù)選型及平臺化預(yù)研及架構(gòu);

負(fù)責(zé)業(yè)務(wù)挖掘、算法應(yīng)用的平臺支持;

負(fù)責(zé)>5人的技術(shù)或FT團(tuán)隊管理。

任職要求:

5年以上系統(tǒng)建設(shè),設(shè)計,架構(gòu)經(jīng)驗;4年以上大數(shù)據(jù)系統(tǒng)開發(fā),設(shè)計,架構(gòu)經(jīng)驗;3年以上軟件工程管理經(jīng)驗;

熟悉商業(yè)智能系統(tǒng),熟悉數(shù)據(jù)倉庫,熟悉數(shù)據(jù)集市;

熟悉大數(shù)據(jù)相關(guān)技術(shù):Hadoop,Hive,HBase,ZooKeeper,Spark,Cassandra,MapReduce;并閱讀過相關(guān)源碼;

管理過數(shù)據(jù)量上T級別,節(jié)點數(shù)300以上的大數(shù)據(jù)集群,開發(fā),優(yōu)化并管理過上T級別的大數(shù)據(jù)作業(yè);

熟悉常用機(jī)器學(xué)習(xí)算法,了解深度學(xué)習(xí),強(qiáng)化學(xué)習(xí),遷移學(xué)習(xí)算法,了解相關(guān)原理(FF,BF,SGD等);

熟悉各種抽樣方法(分層,過抽樣等),特征處理方法(缺失值處理,離散化等);

熟悉機(jī)器學(xué)習(xí)框架或工具(SparkMLLib,tensorflow,caffe等),了解源碼并能應(yīng)用項目;

具備大數(shù)據(jù)云平臺、計算存儲平臺、可視化開發(fā)平臺經(jīng)驗,具備中大型成功項目經(jīng)驗優(yōu)先;具備大規(guī)模分布式計算平臺的使用和并行算法的開發(fā)經(jīng)驗,對大數(shù)據(jù)處理及應(yīng)用有濃厚興趣;

具備較強(qiáng)的團(tuán)隊管理能力和溝通能力,思維活躍,前瞻學(xué)習(xí)能力強(qiáng);

了解軟件項目管理、敏捷管理方法論,在中大型項目中有所實踐。