大數據架構師工作的職責
大數據架構師工作的職責
大數據架構師負責大數據系統(tǒng)設計、功能模塊設計,數據平臺的搭建、維護和優(yōu)化。下面是學習啦小編整理的大數據架構師工作的職責。
大數據架構師工作的職責1
職責:
1、負責大數據項目平臺架構的評估、規(guī)劃和設計
2、開發(fā)大數據平臺的核心模塊代碼,負責大數據平臺的搭建,完成系統(tǒng)調試、集成與實施,保證大數據產品的上線運行
3、根據業(yè)務需求整合優(yōu)化數據架構,保證產品的可靠性、穩(wěn)定性
4、指導開發(fā)人員完成數據模型規(guī)劃建設,分析模型構建及分析呈現
5、深入研究大數據相關技術和產品,跟進業(yè)界先進技術;
6、根據項目要求編寫相關技術文檔;
7、負責大數據平臺的架構評審,代碼評審,上線評審;參與數據應用需求、設計、審核和評審;
8、負責核心模塊研發(fā),負責大數據平臺的搭建,完成系統(tǒng)調試、集成與實施;
9. 負責關鍵功能的開發(fā),技術難題的解決,以及輸出代碼的關鍵把控;
10. 負責對使用關鍵技術的預研和選型,完成 PoC ;
11. 指導工程師完成開發(fā)工作,并能分享技術經驗。
任職資格:
1、精通Linux操作系統(tǒng),熟練使用Java;
2、3年以上大數據項目實戰(zhàn)經驗,兩個項目的架構設計經驗,熟悉Hadoop、Hbase、Storm、Spark、Pig等開源框架,并熟悉其工作原理;
3、有Hadoop、Spark、Hbase平臺性能調優(yōu)經驗;
4、熟悉其它分布式存儲相關技術,包括HDFS,Hive、Redis、Mongodb、 Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;
5、熟悉Java開發(fā)常用框架.如Spring、MyBatis等;
6、熟悉關系型數據庫如oracle及數據庫編程。
7、能夠根據項目情況安排人力、分配任務,具有較強的團隊管理能力。
8、碩士以上學歷,10年以上的工作經驗。
大數據架構師工作的職責2
職責:
1. 負責設計企業(yè)級大數據平臺的整體架構,從技術層面制定清晰的大數據產品與系統(tǒng)技術架構,并負責實現關鍵技術和產品。
2. 負責設計具有創(chuàng)新價值的大數據底層平臺、大數據上層應用系統(tǒng)等,帶領團隊完成有質變的技術解決方案。
3. 負責組織同事研究行內最前沿的技術發(fā)展方向,突破現有的技術難題。
4. 負責研究院對外項目合作協(xié)調與支持,編寫項目建設方案及后期項目建設支持。
任職要求:
1. 碩士及以上學歷,計算機相關專業(yè)。
2. JAVA基礎扎實,不少于8年的一線開發(fā)經驗,精通Spring boot/MyBatis/Restful API的開發(fā)與管理. 熟悉ReactJS/Angular/Vue之一前端開發(fā)技術,熟悉Maven或Ant.,熟悉Python語言開發(fā)加分。
3. 不少于4年大數據的直接研發(fā)經驗,精通Hadoop/Spark系統(tǒng),有hands-on的架構設計、性能調優(yōu)、開發(fā)經驗。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系統(tǒng)的開發(fā)經驗。
4. 掌握分布式系統(tǒng)原理,對分布式存儲、流式計算、消息隊列中的一項或多項有深入的理解和認識。
5. 熟悉分布式系統(tǒng)的監(jiān)控、運維、故障恢復,高可用原理和設計理念。
6. 算法基礎扎實,熟悉常見的數據結構,掌握大規(guī)模高并發(fā)訪問、大數據開發(fā)等處理經驗;熟練的Linux系統(tǒng), 網絡, 內存和存儲等方面知識。
7. 必須要有千萬級別的項目管理經驗,包括但不限于前期需求溝通,建設方案編寫,中期項目實施,進度匯報,后期項目維護。
大數據架構師工作的職責3
職責:
把控大數據系統(tǒng)及全公司的產品做技術選型和架構設計;
負責公司產品需求技術解決方案的編制設計工作,并能夠將解決方案清晰地傳達給項目組成員;
主導項目關鍵技術問題的攻關,協(xié)助項目管理對技術問題進行跟進;
協(xié)助解決具體研發(fā)過程中的問題;
定期進行新技術研究和匯報;
對產品線進行技術方案支持,及客戶、市場技術調研
任職要求:
1. 全日制綜合類大學本科及以上學歷,計算機科學與技術、信息工程、大數據、通訊相關專業(yè)(如有特殊經歷者酌情考慮);
2. 擁有多年系統(tǒng)設計與開發(fā)工作經驗,深刻理解計算機、互聯(lián)網有關技術與理論、設計模式,深刻理解多線程、內存數據庫、分布式系統(tǒng)、大數據相關的設計、架構規(guī)劃、開發(fā)經驗者優(yōu)先;
3. 深入理解各類技術與產品的原理與思想,有較強需求分析和技術設計與實現能力;
大數據架構師工作的職責4
職責:
1、正確理解業(yè)務需求,對需求進行工作量評估;
2、參與項目相關的需求、設計、投產手冊等文檔的編寫;
3、根據進度計劃,完成所承擔功能模塊的設計、開發(fā)、單元測試、聯(lián)調測試;
4、配合測試組修復代碼缺陷,確保功能實現與代碼質量;
5、負責所承擔功能模塊投產、部署,及上線后的日常維護;
6、完成項目經理或者架構師安排的其他工作;
任職資格:
1、本科以上學歷,計算機相關專業(yè),兩年以上大數據開發(fā)經驗;
2、熟悉Linux 環(huán)境,掌握shell或python;
3、熟練使用hadoop,hive,HBase,YARN,kafka,spark等大數據開發(fā)組件;
4、精通 ETL,數據倉庫的設計和開發(fā);
5、有大數據處理實戰(zhàn)經驗,熟悉整個大數據的完整處理流程,包括數據的采集、清洗、存儲;
6、較強的動手能力和學習能力,良好的溝通能力、團隊協(xié)調能力;
7、具有銀行、金融行業(yè)從業(yè)背景者優(yōu)先。
大數據架構師工作的職責5
職責:
1. 負責大數據基礎平臺、海量數據存儲/處理分布式平臺、數據分析系統(tǒng)架構設計和研發(fā);
2. 負責實時計算平臺基礎架構設計、部署、監(jiān)控、優(yōu)化升級;
3. 制定項目/數據倉庫設計及實現規(guī)范,指導設計研發(fā)和部署;
4. 協(xié)助策略和算法團隊工作,保障數據挖掘建模和工程化;
5. 深入研究大數據相關技術和產品,跟進業(yè)界先進技術。
任職要求:
1. 全日制本科及以上學歷,5年以上軟件和分布式系統(tǒng)研發(fā)經驗,3年以上大數據系統(tǒng)架構經驗;
2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態(tài)圈;
3. 具備Java/C++/Scala等開發(fā)經驗,熟悉數據挖掘和分析的策略與算法;
4. 具備良好的系統(tǒng)分析能力、故障診斷能力;
5. 有大數據策略、算法、可視化經驗優(yōu)先;
6、211/985 重點學校畢業(yè)優(yōu)先。