更新于 4月3日

大數(shù)據(jù)工程師

1.5-3萬
  • 廣州海珠區(qū)
  • 3-5年
  • 本科
  • 全職
  • 招5人

職位描述

SparkFlink

工作職責(zé):

1、數(shù)據(jù)平臺建設(shè)與維護:負(fù)責(zé)大數(shù)據(jù)平臺的設(shè)計、搭建和優(yōu)化,包括數(shù)據(jù)采集、存儲、計算和可視化;使用 Kubernetes(K8S)部署和管理大數(shù)據(jù)組件(如 Hadoop、Spark、Flink),確保平臺的高可用性和可擴展性;設(shè)計和實現(xiàn)高效的數(shù)據(jù)管道(Data Pipeline),確保數(shù)據(jù)的高效流轉(zhuǎn)和處理;

2、數(shù)據(jù)開發(fā)與處理:負(fù)責(zé)大規(guī)模數(shù)據(jù)的清洗、轉(zhuǎn)換和加載(ETL)工作,確保數(shù)據(jù)質(zhì)量和一致性;開發(fā)和優(yōu)化分布式計算任務(wù),提升數(shù)據(jù)處理效率;設(shè)計和實現(xiàn)實時數(shù)據(jù)處理系統(tǒng),支持實時分析和監(jiān)控需求;

3、數(shù)據(jù)倉庫與建模:設(shè)計和開發(fā)數(shù)據(jù)倉庫(Data Warehouse),構(gòu)建多維數(shù)據(jù)模型;優(yōu)化數(shù)據(jù)存儲和查詢性能,支持高效的數(shù)據(jù)分析和報表生成;負(fù)責(zé)數(shù)據(jù)分層(ODS、DWD、DWS、ADS)的設(shè)計和實現(xiàn)。

4、數(shù)據(jù)分析與支持:為數(shù)據(jù)分析師、數(shù)據(jù)科學(xué)家和業(yè)務(wù)部門提供數(shù)據(jù)支持,解決數(shù)據(jù)使用中的問題;參與數(shù)據(jù)分析和挖掘工作,提供技術(shù)支持和工具開發(fā);設(shè)計和實現(xiàn)數(shù)據(jù)可視化方案,支持業(yè)務(wù)決策;

5、平臺運維與監(jiān)控:獨立完成大數(shù)據(jù)平臺的部署、配置和運維,確保平臺的穩(wěn)定性和性能;設(shè)計和實現(xiàn)平臺監(jiān)控和告警系統(tǒng),及時發(fā)現(xiàn)和解決潛在問題;負(fù)責(zé)平臺的容量規(guī)劃、性能調(diào)優(yōu)和故障排查;

6、技術(shù)研究與創(chuàng)新:跟蹤大數(shù)據(jù)領(lǐng)域的最新技術(shù)和工具,推動技術(shù)落地和團隊能力提升;探索和引入新的數(shù)據(jù)處理框架和算法,提升數(shù)據(jù)處理效率和質(zhì)量;參與技術(shù)難題攻關(guān),解決大數(shù)據(jù)平臺中的性能瓶頸和穩(wěn)定性問題。

任職資格:

1、教育背景:本科及以上學(xué)歷,計算機科學(xué)、軟件工程、數(shù)學(xué)、統(tǒng)計學(xué)等相關(guān)專業(yè)優(yōu)先;985、211本科學(xué)歷優(yōu)先;

2、工作經(jīng)驗:3年以上大數(shù)據(jù)開發(fā)經(jīng)驗,熟悉大數(shù)據(jù)生態(tài)系統(tǒng)的常用工具和框架;有大規(guī)模數(shù)據(jù)處理和分布式系統(tǒng)開發(fā)經(jīng)驗者優(yōu)先。有數(shù)據(jù)倉庫建設(shè)、實時計算或數(shù)據(jù)治理經(jīng)驗者優(yōu)先;

3、技術(shù)技能:

ü 熟練掌握 Hadoop 生態(tài)系統(tǒng)(HDFS、YARN、Hive、HBase 等)和 Spark、Flink 等計算框架;

ü 熟悉 Kubernetes(K8S),具備獨立部署和運維大數(shù)據(jù)平臺的能力;熟悉 SQL 和至少一種編程語言(如 Java、Scala、Python);

ü 熟悉數(shù)據(jù)倉庫設(shè)計(如 Kimball 模型、Inmon 模型)和 ETL 工具(如 Airflow、Kettle);了解實時計算技術(shù)(如 Kafka、Storm、Flink)和數(shù)據(jù)湖(Data Lake)架構(gòu);

ü 熟悉至少一種云平臺(如 AWS、Azure、阿里云)的大數(shù)據(jù)服務(wù);

4、核心能力:具備扎實的計算機基礎(chǔ),熟悉數(shù)據(jù)結(jié)構(gòu)、算法和分布式系統(tǒng)原理;具備良好的問題分析和解決能力,能夠快速定位和解決技術(shù)問題;具備較強的溝通能力和團隊協(xié)作精神,能夠與業(yè)務(wù)部門和技術(shù)團隊高效合作;具備較強的學(xué)習(xí)能力,能夠快速掌握新技術(shù)并應(yīng)用到實際工作中;

5、加分項:有機器學(xué)習(xí)或數(shù)據(jù)挖掘經(jīng)驗,熟悉常用算法和工具(如 TensorFlow、PyTorch);有數(shù)據(jù)治理、數(shù)據(jù)安全或數(shù)據(jù)質(zhì)量管理經(jīng)驗;有開源項目貢獻或技術(shù)博客撰寫經(jīng)驗。
工資地址:廣州市海珠區(qū)琶洲大道51號信息大廈;
薪酬:面談。

工作地點

中國移動廣州信息大廈琶洲大道51號

職位發(fā)布者

樊建勇/人事主管

昨日活躍
立即溝通
公司Logo民企人力
廣東民企人力資源開發(fā)服務(wù)中心有限公司于2004年經(jīng)廣東省人力資源和社會保障等行政部門批準(zhǔn)成立,是同時擁有人才服務(wù)許可證、人才引進、技術(shù)人員調(diào)招入廣州、人事檔案權(quán)、勞務(wù)派遣、人才培訓(xùn)等各種覆蓋人力資源各方面資格質(zhì)證的專業(yè)人力資源服務(wù)機構(gòu)。下設(shè)有廣州分公司、深圳分公司、汕頭分公司、從化分公司、揭陽分公司、饒平分公司等全省21個地級市均設(shè)有分公司或合作聯(lián)盟。本著“誠信、專業(yè)、優(yōu)質(zhì)、高效、共贏”的服務(wù)宗旨,運用“成為企事業(yè)單位的勞務(wù)合作伙伴”的管理理念、以科學(xué)的信息數(shù)據(jù)管理技術(shù)和規(guī)范化、專業(yè)化的流程標(biāo)準(zhǔn)服務(wù)能力,致力于為各企事業(yè)單位提供“一站式的人力資源服務(wù)”,幫助各企事業(yè)單位提升人力資源運營效率、提高企業(yè)勞動生產(chǎn)率,滿足靈活、便捷、成本與風(fēng)險最小化、和諧勞動關(guān)系的新時期用工需求。我們擁有一支長期從事勞動保障管理工作的專家/顧問和職業(yè)經(jīng)理人團隊,既熟悉企業(yè)運作流程、熟悉勞動保障法律法規(guī)政策,又具有豐富的實戰(zhàn)經(jīng)驗;同時,與相關(guān)政府部門也建立了良好的關(guān)系。迄今為止,所服務(wù)的企事業(yè)單位均未發(fā)生任何勞動爭議仲裁或訴訟案件。
公司主頁