大資料運維工程師的基本職責

  大資料運維工程師需要處理公司大資料平臺各類異常和故障,確保系統平臺的穩定執行。下面是小編為您精心整理的。

  1

  職責:

  1、技術保障各底層支撐系統的可靠性與穩定性;

  2、負責車輛網平臺的執行監控的解決方案編制、實施與二次功能開發;

  3、負責技術文件手冊編寫,更新,經驗總結沉澱,培訓分享;

  4、負責對新技術和方案進行調研,評估和引進,用技術去提升運維生產效率

  任職資格:

  1、熟悉常見的應用服務部署和調優***Nginx、MySQL、Redis、MongoDB、ELK,Hadoop等***,熟悉高可用叢集、負載均衡叢集的規劃與搭建;

  2、熟練使用Linux、TCP/IP網路協議棧,瞭解常用的Troubleshooting手段和常見效能指標

  3、具有車聯網平臺運維的經驗,精於容量規劃、架構設計、效能優化;

  4、熟悉主流PaaS雲產品的使用,具有運維平臺開發經驗者、參與過開源產品的開發者優先;

  5、優秀的溝通能力,出色的學習與鑽研能力,良好的問題分析與解決能力;

  6、對行業技術敏感度高且細緻,善於思考,樂於發現,對解決具有挑戰性問題充滿激情。

  2

  職責:

  1、負責維護伺服器的執行,包括巡檢、故障排除、資料備份等業務,保證伺服器高質量、高效率執行狀態;

  2、負責伺服器漏洞整改及補丁升級;

  3、負責hadoop運維相關工作;

  4、負責大資料平臺的日常部署、升級、擴容、遷移;

  5、負責高併發,大儲存和實時流的Hadoop/spark大資料平臺規劃,運維,監控和優化工作。

  任職資格:

  1、2年左右伺服器運維經驗;

  2、對linux基礎運維命令熟悉,shell,python至少精通一種,如會scala語言可優先考慮;

  3、熟悉Linux的維護和管理,熟悉bat及Shell指令碼開發,能看懂Python/Scala優先;

  4、做過大規模hadoop叢集優先;

  5、大資料專案:包括不限於hadoop、hive、kafka、hbase、spark、Kudu、Impala等大資料生態的平臺搭建,監控,運維,調優、生產環境hadoop叢集trouble shooting 、hadoop版本升級管理及優化支援。

  3

  職責:

  1、負責Hadoop平臺搭建,運維,管理,故障處理。

  2、負責保障大資料平臺的高效運轉、提升系統穩定性和安全性。

  3、對平臺的Hadoop,Hbase,Kafka,Hive等進行優化。

  4、建立Hadoop叢集管理和維護規範,包括版本管理和變更記錄等。

  崗位要求:

  1、有豐富的Hadoop生態系統的運維經驗,瞭解Hadoop、Storm、Spark、Kafka這些元件的原理,具備部署、實施、維護hadoop 及相關元件的能力;

  2、至少精通 Perl/Python/Shell指令碼語言中的一種;

  3、掌握Linux作業系統的配置,管理、優化以及各種常用命令,能夠獨立排查及解決作業系統層的各類問題;

  4、分析問題能力優秀,善於從各種系統、應用日誌中尋找出問題的原因。

  5、有獨立分析問題和解決問題的能力,能出差。

  4

  職責:

  1.負責Hadoop、spark、hbase、oozie、hive等平臺運營和優化工作,保障平臺服務執行穩定、高效。

  2.負責大資料方案架構及方案落地;

  3.開發Hadoop大資料管理平臺與監控建設;

  3.負責hadoop平臺部署、維護;生產問題、告警、故障處理及伺服器維護、日常值班;

  4.負責叢集網路架構、機器管理等。

  任職資格:

  1. 全日制本科以上學歷,三年以上後臺系統運營工作經驗;

  2. 熟悉hadoop原理,具有Hadoop平臺應用及管理經驗,熟悉hadoop、hive、spark、hbase、oozie、druid、kylin、flink等開源專案及部署、維護、調優;

  3. 熟悉linux作業系統及調優;熟悉sql程式設計,熟悉Shell/Python/Java/Perl語言的一種或多種,有開發經驗優先, 熟悉nagios,cacti,ganglia,zabbix,zenoss優先;

  4. 對大資料和自動化運維開發有濃厚興趣,有大規模hadoop運維經驗者優先;有hadoop/hbase/spark/hive 開發經驗者優先。

  5

  職責:

  1. 負責大資料平臺的穩定性和效能優化;

  2. 負責大資料專案的運維工作;

  3. 針對業務需求制定統一的運維解決方案;

  4. 完善自動監控報警系統,對業務層面關鍵指標進行監控與報警通知;

  任職要求:

  1、熟練掌握hadoop平臺搭建、維護,有平臺優化經驗;

  2、熟悉HDFS、Hive、Spark、HBbase、Kafka、Flume等元件的原理,有閱讀原始碼能力者優先;

  3、熟悉騰訊雲產品,有騰訊雲EMR使用經驗者優先考慮;

  4、熟練掌握java、python語言,熟練使用SQL,並有一定的優化能力