數據倉庫工程師崗位職責數據倉庫工程師職責任職要求
數據倉庫工程師崗位職責
工作內容:
1.集團大數據可視化、數據管理、元數據等核心數據平臺研發;
2.負責維護和搭建高性能的Hbase/hadoop/spark/storm等離線和實時分布式計算平臺,并根據系統壓力提前規劃并給出性能優化方案;
3.為運營決策、線上數據服務提供可靠穩定的數據服務;
4.負責開源大數據平臺與產品和相關技術的追蹤和研究;
職位要求:
1.計算機相關專業本科以上學歷-扎實的PHP/Python/java編程能力;
2.了解OLAP、ETL、分布式數據庫-具有良好的平臺化思維,溝通理解能力,和團隊協作精神;
具備以下經驗者優先:
-熟練使用各種數理統計、數據/日志分析及可視化工具者;
-精通habse、hive、strom、zookeeper、spark等分布式開源軟件,有多年實際開發和應用經驗;
-具有開源項目經驗者;
工作內容:
1.集團大數據可視化、數據管理、元數據等核心數據平臺研發;
2.負責維護和搭建高性能的Hbase/hadoop/spark/storm等離線和實時分布式計算平臺,并根據系統壓力提前規劃并給出性能優化方案;
3.為運營決策、線上數據服務提供可靠穩定的數據服務;
4.負責開源大數據平臺與產品和相關技術的追蹤和研究;
職位要求:
1.計算機相關專業本科以上學歷-扎實的PHP/Python/java編程能力;
2.了解OLAP、ETL、分布式數據庫-具有良好的平臺化思維,溝通理解能力,和團隊協作精神;
具備以下經驗者優先:
-熟練使用各種數理統計、數據/日志分析及可視化工具者;
-精通habse、hive、strom、zookeeper、spark等分布式開源軟件,有多年實際開發和應用經驗;
-具有開源項目經驗者;
篇2:數據倉庫研發工程師崗位職責
搜狗金融-數據倉庫研發工程師-北京-02173(MJ001926)搜狗北京搜狗科技發展有限公司,北京搜狗科技,搜狗,搜狗科技,搜狗翻譯,搜狗詞典,搜狗崗位職責:
1、數據倉庫、數據集市的數據模型設計
2、數據倉庫ETL規則設計和開發
3、利用HQL進行數據清洗,根據應用場景建立數據集市。
4、數據倉庫數據導入,建表,日常任務跑批,日志監控。
5、數據倉庫需求調研和需求分析
任職條件:
1、熟悉python,熟練使用shell編程解決數據清洗;
2、熟練使用Hadoop、Hive、Sqoop,熟練使用hiveSQL并有一定編寫map/reduce開發經驗;
3、熟悉數據倉庫建模理論,了解數據倉庫數據分層架構,精通3NF和多維數據模型設計;
4、具備大中型數據倉庫架構設計、模型設計、ETL設計的相關經驗;
5、具備海量數據處理、有性能調優經、金融、電商、電信、互聯網行業數據模型經驗者優先
這是一款定位于服務平臺互聯網用戶的金融產品,由搜狗公司內部孵化,深度挖掘搜狗在互聯網端的用戶規模優勢以及多年的大數據能力積累。在當下大熱的互聯網金融領域,搜狗將發揮用戶服務和智能算法優勢,并結合平臺的綜合運營實力。
篇3:BI數據倉庫工程師崗位職責
BI工程師-數據倉庫涂鴉智能杭州涂鴉科技有限公司,涂鴉智能,愛相機崗位職責:
1.負責業務數據調研、需求理解,數據采集方案設計及實現;
2.負責建立數據模型,根據業務設計數據主題;
3.負責數據模型的ETL編寫,參與團隊ETL流程的優化及解決ETL相關技術問題;
4.理解業務方的數據需求,提供面向業務的OLAP、報表、數據提取等數據服務;
任職要求:
1.本科及以上學歷,計算機相關專業,2-5年企業級數據平臺相關系統開發經驗;
2.SQL技能嫻熟,精通hive-sql,presto-sql
3.具有扎實的計算機操作系統、數據結構等編程基礎,熟悉Java或scala語言;
4.有過2年以上bi項目經驗,熟悉開源的bi工具如:metabase,superset,redash.有實際操作經驗。
7.有良好的溝通能力,善于主動思考和行動,有極強的責任心和自驅力。