我想看免费的a片|人人操屄去人人操|日本免费三级片网站|羞羞资源久久在线|亚洲一二三四区久久久日韩|高清无码精品视频在线观看|日韩一级不卡视频|黄色三级电影片一一区|日本三级片小说在线|日韩成人三级片免费播放

該職位已失效,看看其他機(jī)會(huì)吧

數(shù)據(jù)開發(fā)工程師(ETL / 數(shù)據(jù)倉庫方向)

8000-16000元
  • 成都武侯區(qū)
  • 5-10年
  • 本科
  • 全職
  • 招1人

職位描述

SQLPythonJavaKettleOracleMySQL數(shù)據(jù)開發(fā)數(shù)據(jù)清洗Hadoop
1、崗位職責(zé):
負(fù)責(zé)數(shù)據(jù)抽取、清洗、轉(zhuǎn)換、加載(ETL)全流程開發(fā)與優(yōu)化,對接業(yè)務(wù)系統(tǒng)數(shù)據(jù)源(如業(yè)務(wù)庫、日志、API 等),設(shè)計(jì)全量 / 增量抽取策略,定義數(shù)據(jù)清洗、脫敏、標(biāo)準(zhǔn)化規(guī)則,保障數(shù)據(jù)一致性、準(zhǔn)確性與時(shí)效性。
維護(hù) MySQL、Oracle、PostgreSQL 等主流關(guān)系型數(shù)據(jù)庫,負(fù)責(zé)表結(jié)構(gòu)設(shè)計(jì)、索引優(yōu)化、SQL 查詢性能調(diào)優(yōu),處理千萬級(jí)以上數(shù)據(jù)量的存儲(chǔ)與查詢需求,解決數(shù)據(jù)庫運(yùn)維中的性能瓶頸與異常問題。
基于Hadoop 生態(tài)(HDFS、YARN)、Spark(Spark SQL/PySpark)、Hive、HBase 等大數(shù)據(jù)技術(shù),處理 TB/PB 級(jí)海量數(shù)據(jù),完成數(shù)據(jù)聚合、分析及業(yè)務(wù)指標(biāo)計(jì)算,支撐大數(shù)據(jù)應(yīng)用場景落地。
參與數(shù)據(jù)倉庫搭建,結(jié)合業(yè)務(wù)需求進(jìn)行數(shù)據(jù)建模(維度建模、關(guān)系建模),設(shè)計(jì)星型 / 雪花模型,劃分業(yè)務(wù)主題域(如用戶、訂單、商品),搭建數(shù)據(jù)分層架構(gòu)(ODS、DW、DM),支撐數(shù)據(jù)分析與業(yè)務(wù)決策。
編寫 Shell 腳本實(shí)現(xiàn) ETL 任務(wù)自動(dòng)化調(diào)度、數(shù)據(jù)備份、日志清理等運(yùn)維工作;使用 Python(Pandas/NumPy/PySpark)開發(fā)數(shù)據(jù)處理腳本,完成批量數(shù)據(jù)校驗(yàn)、異常數(shù)據(jù)修復(fù)及跨系統(tǒng)數(shù)據(jù)交互。
配合數(shù)據(jù)分析師、業(yè)務(wù)團(tuán)隊(duì)梳理數(shù)據(jù)需求,提供數(shù)據(jù)支持;監(jiān)控 ETL 任務(wù)運(yùn)行狀態(tài),及時(shí)排查任務(wù)失敗、數(shù)據(jù)延遲等問題,建立任務(wù)監(jiān)控與告警機(jī)制,保障數(shù)據(jù)鏈路穩(wěn)定。
2. 崗位要求:
關(guān)系型數(shù)據(jù)庫能力:熟練操作 MySQL、Oracle、PostgreSQL 等至少 2 種主流關(guān)系型數(shù)據(jù)庫,具備復(fù)雜 SQL(多表關(guān)聯(lián)、子查詢、窗口函數(shù))編寫能力,掌握表結(jié)構(gòu)設(shè)計(jì)、索引優(yōu)化、分區(qū)表配置及數(shù)據(jù)庫性能調(diào)優(yōu)技巧,能處理千萬級(jí)數(shù)據(jù)量的存儲(chǔ)與查詢場景。
大數(shù)據(jù)技術(shù)能力:熟悉 Hadoop 生態(tài)體系(HDFS、YARN、MapReduce),掌握 Spark(Spark SQL、PySpark)、Hive(HQL 編寫、分區(qū)優(yōu)化)、HBase 等大數(shù)據(jù)工具的使用,能基于大數(shù)據(jù)框架完成海量數(shù)據(jù)清洗、轉(zhuǎn)換、聚合,有 TB/PB 級(jí)數(shù)據(jù)處理經(jīng)驗(yàn)者優(yōu)先。
ETL 全流程能力:精通 ETL 工藝全流程,理解數(shù)據(jù)抽取(全量 / 增量)、轉(zhuǎn)換(清洗、脫敏、邏輯計(jì)算)、加載(全量覆蓋 / 增量追加)的核心邏輯;熟悉至少 1 種 ETL 工具(如 Kettle、DataX、Flink CDC、Talend),能解決 ETL 過程中的數(shù)據(jù)一致性、異常重試、任務(wù)依賴等問題,有 ETL 調(diào)度工具(Airflow、Azkaban)使用經(jīng)驗(yàn)者優(yōu)先。
數(shù)據(jù)建模能力:具備基礎(chǔ)數(shù)據(jù)建模能力,熟悉維度建模、關(guān)系建模方法論,能結(jié)合業(yè)務(wù)場景設(shè)計(jì)星型 / 雪花模型,完成業(yè)務(wù)主題域劃分、指標(biāo)定義及數(shù)據(jù)倉庫分層(ODS→DW→DM)設(shè)計(jì),理解業(yè)務(wù)數(shù)據(jù)與指標(biāo)邏輯的對應(yīng)關(guān)系。
腳本與 Linux 能力:熟練掌握 Linux 操作系統(tǒng)常用命令(文件管理、進(jìn)程監(jiān)控、權(quán)限配置、日志分析);能獨(dú)立編寫 Shell 腳本實(shí)現(xiàn)自動(dòng)化任務(wù)(如 ETL 任務(wù)調(diào)度、數(shù)據(jù)備份、批量執(zhí)行 SQL);熟練使用 Python 進(jìn)行數(shù)據(jù)處理,掌握 Pandas、NumPy、PySpark 等庫,能開發(fā)腳本解決數(shù)據(jù)校驗(yàn)、批量處理需求。
3、經(jīng)驗(yàn)與學(xué)歷要求:
本科及以上學(xué)歷,計(jì)算機(jī)、大數(shù)據(jù)、統(tǒng)計(jì)學(xué)、信息管理等相關(guān)專業(yè)優(yōu)先;3-6 年及以上數(shù)據(jù)開發(fā) / ETL 相關(guān)工作經(jīng)驗(yàn),有數(shù)據(jù)倉庫搭建、企業(yè)級(jí)數(shù)據(jù)鏈路建設(shè)經(jīng)驗(yàn)者優(yōu)先;有金融、電商、零售等行業(yè)數(shù)據(jù)處理經(jīng)驗(yàn)者優(yōu)先(根據(jù)公司業(yè)務(wù)調(diào)整)。
4、薪酬:8k--25k

查看全部

工作地點(diǎn)

成都武侯區(qū)科華天成科華中路139號(hào)科華天成大廈28樓

職位發(fā)布者

熊女士/企業(yè)管理員

昨日活躍
立即溝通
公司Logo四川匯融農(nóng)鏈科技有限公司
四川匯融農(nóng)鏈科技有限公司是一家專注于涉農(nóng)供應(yīng)鏈數(shù)字科技服務(wù)的創(chuàng)新企業(yè),通過數(shù)字化技術(shù)推動(dòng)農(nóng)業(yè)供應(yīng)鏈的轉(zhuǎn)型升級(jí)。公司以科技創(chuàng)新為核心,為金融機(jī)構(gòu)及涉農(nóng)產(chǎn)業(yè)鏈上下游企業(yè)提供高效、智能的解決方案。公司業(yè)務(wù)涵蓋軟件開發(fā)(包括電商平臺(tái)、交易平臺(tái)、倉儲(chǔ)管理系統(tǒng)、信貸管理系統(tǒng)、數(shù)據(jù)中臺(tái)、智能風(fēng)控系統(tǒng)等)、技術(shù)服務(wù)(供應(yīng)鏈金融平臺(tái)運(yùn)營、IT運(yùn)維、云計(jì)算、大數(shù)據(jù)分析)、系統(tǒng)集成(幫助金融機(jī)構(gòu)整合IT基礎(chǔ)設(shè)施,將創(chuàng)新業(yè)務(wù)融入現(xiàn)有框架)以及創(chuàng)新業(yè)務(wù)探索(新型農(nóng)業(yè)供應(yīng)鏈金融模式與智能化改造)。公司團(tuán)隊(duì)在傳統(tǒng)銀行信貸風(fēng)控管理、互聯(lián)網(wǎng)金融風(fēng)險(xiǎn)管理、信貸業(yè)務(wù)運(yùn)營、客戶服務(wù)、電商業(yè)務(wù)等領(lǐng)域擁有豐富的實(shí)戰(zhàn)經(jīng)驗(yàn),具備豐富的銀行系統(tǒng)開發(fā)運(yùn)營經(jīng)驗(yàn),公司研發(fā)運(yùn)營的“匯融農(nóng)鏈”系統(tǒng),創(chuàng)造性地建立農(nóng)業(yè)供應(yīng)鏈金融新模式?!皡R融農(nóng)鏈”通過整合農(nóng)業(yè)產(chǎn)業(yè)鏈資源,為金融機(jī)構(gòu)提供三農(nóng)產(chǎn)業(yè)鏈一體化管理平臺(tái)和三農(nóng)產(chǎn)業(yè)的綜合金融服務(wù)平臺(tái),協(xié)助金融機(jī)構(gòu)實(shí)現(xiàn)三農(nóng)金融業(yè)務(wù)的數(shù)字化、智能化管理,提升金融服務(wù)效率和風(fēng)險(xiǎn)控制能力。公司提供的供應(yīng)鏈業(yè)務(wù)一體化管理平臺(tái),助力金融機(jī)構(gòu)和三農(nóng)企業(yè)實(shí)現(xiàn)供應(yīng)鏈全流程的透明化、高效化管理,促進(jìn)涉農(nóng)產(chǎn)業(yè)鏈的協(xié)同發(fā)展,構(gòu)建農(nóng)業(yè)物聯(lián)網(wǎng)生態(tài),致力成為涉農(nóng)供應(yīng)鏈數(shù)字科技服務(wù)領(lǐng)域的領(lǐng)軍企業(yè)。
公司主頁