工作職責(zé):
1、數(shù)據(jù)平臺建設(shè)與維護:負(fù)責(zé)大數(shù)據(jù)平臺的設(shè)計、搭建和優(yōu)化,包括數(shù)據(jù)采集、存儲、計算和可視化;使用 Kubernetes(K8S)部署和管理大數(shù)據(jù)組件(如 Hadoop、Spark、Flink),確保平臺的高可用性和可擴展性;設(shè)計和實現(xiàn)高效的數(shù)據(jù)管道(Data Pipeline),確保數(shù)據(jù)的高效流轉(zhuǎn)和處理;
2、數(shù)據(jù)開發(fā)與處理:負(fù)責(zé)大規(guī)模數(shù)據(jù)的清洗、轉(zhuǎn)換和加載(ETL)工作,確保數(shù)據(jù)質(zhì)量和一致性;開發(fā)和優(yōu)化分布式計算任務(wù),提升數(shù)據(jù)處理效率;設(shè)計和實現(xiàn)實時數(shù)據(jù)處理系統(tǒng),支持實時分析和監(jiān)控需求;
3、數(shù)據(jù)倉庫與建模:設(shè)計和開發(fā)數(shù)據(jù)倉庫(Data Warehouse),構(gòu)建多維數(shù)據(jù)模型;優(yōu)化數(shù)據(jù)存儲和查詢性能,支持高效的數(shù)據(jù)分析和報表生成;負(fù)責(zé)數(shù)據(jù)分層(ODS、DWD、DWS、ADS)的設(shè)計和實現(xiàn)。
4、數(shù)據(jù)分析與支持:為數(shù)據(jù)分析師、數(shù)據(jù)科學(xué)家和業(yè)務(wù)部門提供數(shù)據(jù)支持,解決數(shù)據(jù)使用中的問題;參與數(shù)據(jù)分析和挖掘工作,提供技術(shù)支持和工具開發(fā);設(shè)計和實現(xiàn)數(shù)據(jù)可視化方案,支持業(yè)務(wù)決策;
5、平臺運維與監(jiān)控:獨立完成大數(shù)據(jù)平臺的部署、配置和運維,確保平臺的穩(wěn)定性和性能;設(shè)計和實現(xiàn)平臺監(jiān)控和告警系統(tǒng),及時發(fā)現(xiàn)和解決潛在問題;負(fù)責(zé)平臺的容量規(guī)劃、性能調(diào)優(yōu)和故障排查;
6、技術(shù)研究與創(chuàng)新:跟蹤大數(shù)據(jù)領(lǐng)域的最新技術(shù)和工具,推動技術(shù)落地和團隊能力提升;探索和引入新的數(shù)據(jù)處理框架和算法,提升數(shù)據(jù)處理效率和質(zhì)量;參與技術(shù)難題攻關(guān),解決大數(shù)據(jù)平臺中的性能瓶頸和穩(wěn)定性問題。
任職資格:
1、教育背景:本科及以上學(xué)歷,計算機科學(xué)、軟件工程、數(shù)學(xué)、統(tǒng)計學(xué)等相關(guān)專業(yè)優(yōu)先;985、211本科學(xué)歷優(yōu)先;
2、工作經(jīng)驗:3年以上大數(shù)據(jù)開發(fā)經(jīng)驗,熟悉大數(shù)據(jù)生態(tài)系統(tǒng)的常用工具和框架;有大規(guī)模數(shù)據(jù)處理和分布式系統(tǒng)開發(fā)經(jīng)驗者優(yōu)先。有數(shù)據(jù)倉庫建設(shè)、實時計算或數(shù)據(jù)治理經(jīng)驗者優(yōu)先;
3、技術(shù)技能:
ü 熟練掌握 Hadoop 生態(tài)系統(tǒng)(HDFS、YARN、Hive、HBase 等)和 Spark、Flink 等計算框架;
ü 熟悉 Kubernetes(K8S),具備獨立部署和運維大數(shù)據(jù)平臺的能力;熟悉 SQL 和至少一種編程語言(如 Java、Scala、Python);
ü 熟悉數(shù)據(jù)倉庫設(shè)計(如 Kimball 模型、Inmon 模型)和 ETL 工具(如 Airflow、Kettle);了解實時計算技術(shù)(如 Kafka、Storm、Flink)和數(shù)據(jù)湖(Data Lake)架構(gòu);
ü 熟悉至少一種云平臺(如 AWS、Azure、阿里云)的大數(shù)據(jù)服務(wù);
4、核心能力:具備扎實的計算機基礎(chǔ),熟悉數(shù)據(jù)結(jié)構(gòu)、算法和分布式系統(tǒng)原理;具備良好的問題分析和解決能力,能夠快速定位和解決技術(shù)問題;具備較強的溝通能力和團隊協(xié)作精神,能夠與業(yè)務(wù)部門和技術(shù)團隊高效合作;具備較強的學(xué)習(xí)能力,能夠快速掌握新技術(shù)并應(yīng)用到實際工作中;
5、加分項:有機器學(xué)習(xí)或數(shù)據(jù)挖掘經(jīng)驗,熟悉常用算法和工具(如 TensorFlow、PyTorch);有數(shù)據(jù)治理、數(shù)據(jù)安全或數(shù)據(jù)質(zhì)量管理經(jīng)驗;有開源項目貢獻或技術(shù)博客撰寫經(jīng)驗。
工資地址:廣州市海珠區(qū)琶洲大道51號信息大廈;
薪酬:面談。
廣州 - 越秀
廣州 - 白云
廣州 - 天河
廣州 - 天河
廣州 - 海珠
廣州 - 天河