大數據架構師職位描述與崗位職責任職要求
職位描述:
崗位描述:
1.制定公司的大數據發展(數據驅動、數據中臺)規劃、技術發展路線,建設合理的數據倉庫架構;
2.分析業界大數據技術使用情況,研究未來數據模型和計算框架的創新與落地;
3.領導數據資產管理和系統化的數據模型建設;
4.提升團隊大數據能力,塑造團隊在行業的技術影響力;
5.對公司其他團隊普及大數據技術能力,并帶領團隊提供大數據使用能力。
崗位要求:
1.計算機/應用數學等相關專業、全日制本科及以上學歷;
2.具有7年以上大數據架構工作經驗,擁有3年以上大型互聯網公司相關經驗優先;
3.具有很強的數據設計抽象能力,具有海量數據、復雜業務的治理和管理經驗;
4.熟悉大數據架構與生態圈技術(如:Hive、HBASE、Storm、Kafka、ES、Kylin等);
5.熟悉大數據技術演變歷史,并能夠總結發展特點;
6.對數據挖掘、分析、算法、工程化、AI等技術了解者優先;
7.具備良好的溝通協調能力、快速學習能力,強烈的工作主動性和責任心,且熱愛技術、具有鉆研精神;
篇2:大數據系統架構師崗位職責大數據系統架構師職責任職要求
大數據系統架構師崗位職責
職責描述:
1.負責客戶業務需求、數據分析需求的調研、收集與分析;
2.負責Kyligence大數據平臺整體架構和數據架構設計,根據具體業務需求和產品對數據模型進行統一分析和規劃;
3.負責技術設計及技術實現規范編制,指導開發團隊進行項目設計、項目實現及技術匯報;
4.負責項目重難點模塊的功能設計和難點攻堅;
5.參與大數據平臺的應用設計、開發、測試及優化工作。
任職要求:
1.計算機相關專業,本科及以上學歷;
2.有5年以上工作經驗,3年以上數據倉庫架構和大數據系統設計經驗;
3.精通Hadoop、Hive、HBase原理及優化,熟悉大數據生態技術圈,如Storm、Spark、Flume、Sqoop、Kafka、Zookeeper、ES等,有大規模集群架構設計、開發及管理經驗;
4.熟練使用SQL語言,掌握Oracle、DB2、GP、MySQL等至少兩種數據庫系統的使用,有較好的SQL性能調優經驗;
5.至少熟悉Java,Scala,Python,Shell等編程語言中的2種;
6.熟悉數據治理及應用,元數據管理的設計與應用;
7.熟悉數據倉庫模型的設計,分層設計原理,并結合大數據技術組建解決模型應用的問題;
8.優秀的分析和解決問題的能力,對挑戰性問題充滿激情;
9.具備良好的文檔撰寫能力和技術團隊管理能力;
10.具備良好的團隊合作精神,較強的溝通能力,具備良好的技術領導能力;
11.有Hive數據倉庫或者ApacheKylin的開發經驗者優先考慮;
篇3:大數據架構師崗位職責大數據架構師職責任職要求
大數據架構師崗位職責
工作職責:
負責大數據開發、數據挖掘、算法平臺的技術架構及建設;
負責大數據實時檢索分析平臺的架構和建設;
負責PCG業務算法推薦,實時流計算框架的研發優化;
跟蹤移動互聯網開源大數據框架、新算法框架的技術選型及平臺化預研及架構;
負責業務挖掘、算法應用的平臺支持;
負責>5人的技術或FT團隊管理。
任職要求:
5年以上系統建設,設計,架構經驗;4年以上大數據系統開發,設計,架構經驗;3年以上軟件工程管理經驗;
熟悉商業智能系統,熟悉數據倉庫,熟悉數據集市;
熟悉大數據相關技術:Hadoop,Hive,HBase,ZooKeeper,Spark,Cassandra,MapReduce;并閱讀過相關源碼;
管理過數據量上T級別,節點數300以上的大數據集群,開發,優化并管理過上T級別的大數據作業;
熟悉常用機器學習算法,了解深度學習,強化學習,遷移學習算法,了解相關原理(FF,BF,SGD等);
熟悉各種抽樣方法(分層,過抽樣等),特征處理方法(缺失值處理,離散化等);
熟悉機器學習框架或工具(SparkMLLib,tensorflow,caffe等),了解源碼并能應用項目;
具備大數據云平臺、計算存儲平臺、可視化開發平臺經驗,具備中大型成功項目經驗優先;具備大規模分布式計算平臺的使用和并行算法的開發經驗,對大數據處理及應用有濃厚興趣;
具備較強的團隊管理能力和溝通能力,思維活躍,前瞻學習能力強;
了解軟件項目管理、敏捷管理方法論,在中大型項目中有所實踐。