職位描述：

工作職責(zé)：

1、負(fù)責(zé)大數(shù)據(jù)平臺(tái)底層框架的架構(gòu)設(shè)計(jì)、研發(fā)，結(jié)合業(yè)務(wù)進(jìn)行技術(shù)選型及規(guī)劃；建立體系化的數(shù)據(jù)資產(chǎn);

2、對(duì)大數(shù)據(jù)相關(guān)的前沿技術(shù)進(jìn)行預(yù)研，利用挖掘技術(shù)分析用戶偏好特征，構(gòu)建用戶畫像、精細(xì)化運(yùn)營等業(yè)務(wù)的數(shù)據(jù)基礎(chǔ)。

3、負(fù)責(zé)新技術(shù)的調(diào)研，并能在團(tuán)隊(duì)內(nèi)進(jìn)行推廣應(yīng)用。

任職要求：

1、計(jì)算機(jī)相關(guān)專業(yè)，全日制本科及以上學(xué)歷，6年以上工作經(jīng)驗(yàn)；

2、熟練掌握java或scala開發(fā)語言，熟悉springMVC，MyBatis架構(gòu)；有jvm調(diào)優(yōu)經(jīng)驗(yàn)優(yōu)先，熟悉Linux開發(fā)環(huán)境，了解shell、python等腳本語言開發(fā)；

3、熟悉大數(shù)據(jù)分布式數(shù)據(jù)存儲(chǔ)技術(shù)，包括：Hadoop，Hive、mongodb，Hbase；

4、熟悉大數(shù)據(jù)實(shí)時(shí)查詢技術(shù)方案ElasticSearch，了解redis、Druid、Presto等；

5、了解相關(guān)數(shù)據(jù)處理技術(shù)Strom、Spark、Flink、Azkaban、Flume、Kafaka、Sqoop、Zookeeper等一種或幾種；

6、了解數(shù)據(jù)倉庫模型設(shè)計(jì)與ETL開發(fā)經(jīng)驗(yàn)，具備海量數(shù)據(jù)開發(fā)經(jīng)驗(yàn)者優(yōu)先；

7、了解數(shù)據(jù)管理平臺(tái)DMP，具備多租戶SaaS產(chǎn)品開發(fā)經(jīng)驗(yàn)者優(yōu)先；

8、具有良好的溝通協(xié)調(diào)能力和團(tuán)隊(duì)合作精神，樂于與善于學(xué)習(xí)新知識(shí)新技術(shù)，有較強(qiáng)的責(zé)任心和學(xué)習(xí)積極性。

篇2:大數(shù)據(jù)系統(tǒng)架構(gòu)師崗位職責(zé)大數(shù)據(jù)系統(tǒng)架構(gòu)師職責(zé)任職要求

大數(shù)據(jù)系統(tǒng)架構(gòu)師崗位職責(zé)

職責(zé)描述:

1.負(fù)責(zé)客戶業(yè)務(wù)需求、數(shù)據(jù)分析需求的調(diào)研、收集與分析;

2.負(fù)責(zé)Kyligence大數(shù)據(jù)平臺(tái)整體架構(gòu)和數(shù)據(jù)架構(gòu)設(shè)計(jì),根據(jù)具體業(yè)務(wù)需求和產(chǎn)品對(duì)數(shù)據(jù)模型進(jìn)行統(tǒng)一分析和規(guī)劃;

3.負(fù)責(zé)技術(shù)設(shè)計(jì)及技術(shù)實(shí)現(xiàn)規(guī)范編制,指導(dǎo)開發(fā)團(tuán)隊(duì)進(jìn)行項(xiàng)目設(shè)計(jì)、項(xiàng)目實(shí)現(xiàn)及技術(shù)匯報(bào);

4.負(fù)責(zé)項(xiàng)目重難點(diǎn)模塊的功能設(shè)計(jì)和難點(diǎn)攻堅(jiān);

5.參與大數(shù)據(jù)平臺(tái)的應(yīng)用設(shè)計(jì)、開發(fā)、測試及優(yōu)化工作。

任職要求:

1.計(jì)算機(jī)相關(guān)專業(yè),本科及以上學(xué)歷;

2.有5年以上工作經(jīng)驗(yàn),3年以上數(shù)據(jù)倉庫架構(gòu)和大數(shù)據(jù)系統(tǒng)設(shè)計(jì)經(jīng)驗(yàn);

3.精通Hadoop、Hive、HBase原理及優(yōu)化,熟悉大數(shù)據(jù)生態(tài)技術(shù)圈,如Storm、Spark、Flume、Sqoop、Kafka、Zookeeper、ES等,有大規(guī)模集群架構(gòu)設(shè)計(jì)、開發(fā)及管理經(jīng)驗(yàn);

4.熟練使用SQL語言,掌握Oracle、DB2、GP、MySQL等至少兩種數(shù)據(jù)庫系統(tǒng)的使用,有較好的SQL性能調(diào)優(yōu)經(jīng)驗(yàn);

5.至少熟悉Java,Scala,Python,Shell等編程語言中的2種;

6.熟悉數(shù)據(jù)治理及應(yīng)用,元數(shù)據(jù)管理的設(shè)計(jì)與應(yīng)用;

7.熟悉數(shù)據(jù)倉庫模型的設(shè)計(jì),分層設(shè)計(jì)原理,并結(jié)合大數(shù)據(jù)技術(shù)組建解決模型應(yīng)用的問題;

8.優(yōu)秀的分析和解決問題的能力,對(duì)挑戰(zhàn)性問題充滿激情;

9.具備良好的文檔撰寫能力和技術(shù)團(tuán)隊(duì)管理能力;

10.具備良好的團(tuán)隊(duì)合作精神,較強(qiáng)的溝通能力,具備良好的技術(shù)領(lǐng)導(dǎo)能力;

11.有Hive數(shù)據(jù)倉庫或者ApacheKylin的開發(fā)經(jīng)驗(yàn)者優(yōu)先考慮;

篇3:大數(shù)據(jù)架構(gòu)師崗位職責(zé)大數(shù)據(jù)架構(gòu)師職責(zé)任職要求

大數(shù)據(jù)架構(gòu)師崗位職責(zé)

工作職責(zé):

負(fù)責(zé)大數(shù)據(jù)開發(fā)、數(shù)據(jù)挖掘、算法平臺(tái)的技術(shù)架構(gòu)及建設(shè);

負(fù)責(zé)大數(shù)據(jù)實(shí)時(shí)檢索分析平臺(tái)的架構(gòu)和建設(shè);

負(fù)責(zé)PCG業(yè)務(wù)算法推薦,實(shí)時(shí)流計(jì)算框架的研發(fā)優(yōu)化;

跟蹤移動(dòng)互聯(lián)網(wǎng)開源大數(shù)據(jù)框架、新算法框架的技術(shù)選型及平臺(tái)化預(yù)研及架構(gòu);

負(fù)責(zé)業(yè)務(wù)挖掘、算法應(yīng)用的平臺(tái)支持;

負(fù)責(zé)>5人的技術(shù)或FT團(tuán)隊(duì)管理。

任職要求:

5年以上系統(tǒng)建設(shè),設(shè)計(jì),架構(gòu)經(jīng)驗(yàn);4年以上大數(shù)據(jù)系統(tǒng)開發(fā),設(shè)計(jì),架構(gòu)經(jīng)驗(yàn);3年以上軟件工程管理經(jīng)驗(yàn);

熟悉商業(yè)智能系統(tǒng),熟悉數(shù)據(jù)倉庫,熟悉數(shù)據(jù)集市;

熟悉大數(shù)據(jù)相關(guān)技術(shù):Hadoop,Hive,HBase,ZooKeeper,Spark,Cassandra,MapReduce;并閱讀過相關(guān)源碼;

管理過數(shù)據(jù)量上T級(jí)別,節(jié)點(diǎn)數(shù)300以上的大數(shù)據(jù)集群,開發(fā),優(yōu)化并管理過上T級(jí)別的大數(shù)據(jù)作業(yè);

熟悉常用機(jī)器學(xué)習(xí)算法,了解深度學(xué)習(xí),強(qiáng)化學(xué)習(xí),遷移學(xué)習(xí)算法,了解相關(guān)原理(FF,BF,SGD等);

熟悉各種抽樣方法(分層,過抽樣等),特征處理方法(缺失值處理,離散化等);

熟悉機(jī)器學(xué)習(xí)框架或工具(SparkMLLib,tensorflow,caffe等),了解源碼并能應(yīng)用項(xiàng)目;

具備大數(shù)據(jù)云平臺(tái)、計(jì)算存儲(chǔ)平臺(tái)、可視化開發(fā)平臺(tái)經(jīng)驗(yàn),具備中大型成功項(xiàng)目經(jīng)驗(yàn)優(yōu)先;具備大規(guī)模分布式計(jì)算平臺(tái)的使用和并行算法的開發(fā)經(jīng)驗(yàn),對(duì)大數(shù)據(jù)處理及應(yīng)用有濃厚興趣;

具備較強(qiáng)的團(tuán)隊(duì)管理能力和溝通能力,思維活躍,前瞻學(xué)習(xí)能力強(qiáng);

了解軟件項(xiàng)目管理、敏捷管理方法論,在中大型項(xiàng)目中有所實(shí)踐。