【課程名稱】

大數據開發工程師

【課程大綱】

LINUX

基本命令

常見配置文件

文件操作命令和權限

安裝軟件

Shell腳本

AWK和sed腳本

內核加載流程

Docker介紹和操作

服務器調優項

分布式存儲

Hadoop概述

HBase背景、簡介以及系統架構和原理

HBase邏輯模型：行鍵、列族、timeStamp，HBase物理模型。

HBase環境搭建：偽分布式安裝、完全分布式安裝

HBase Shell 、HBase客戶端API 、HBase表結構設計

HBase之Mapreduce、HDFS數據導入HBase

HBase二級索引、WAL機制、HBase集群遷移方案、導入方案、協處理器

HBase性能調優：JVM優化、查詢優化、寫優化、配置參數優化

Zookeeper

Zookeeper概述

Zookeeper系統架構

Zookeeper數據模型

Zookeeper寫數據流程

Zookeeper安裝部署

Zookeeper中shell操作

Zookeeper選舉機制

Zookeeper監聽操作

Zookeeper 分布式鎖實踐

Zookeeper應用場景

API操作

YARN

YARN介紹

YARN系統架構

YARN作業提交流程

YARN三種調度策略

YARN隊列配置

YARN的Node Label機制

MapReduce

MapReduce介紹

MapReduce基礎案例

MapReduce分片

MapReduce運行流程及shuftle

MapReduce案例

MapReduce相關參數

Scala

Scala介紹

Scala基礎語法

數組和集合

泛型

隱式轉換

IO操作

Spark

Spark概述、整體架構、Spark vs Mapreduce 、Spark vs Hive 、Spark Streaming vs Storm等

Spark 環境搭建：hive搭建、kafka搭建、安裝apark

Spark 核心編程：基本工作原理、RDD彈性數據集

開發wordcount程序

Spark 創建RDD、各種算子操作(Transformation、Actions)、共享變量(廣播、累加)

復雜一些的Spark編程：排名、二次排序、TopN分析

Spark架構分析：寬窄依賴、基于YARN的提交模式、SparkContext原理剖析、注冊機制原理、Executor原理剖析、Task原理剖析、shuffer優化、BlockManager原理剖析、CacheManager原理剖析、Checkpoint原理剖析等

Spark Core調優：內存、判斷耗時、優化數據結構、RDD與checkpoint、序列化、JVM、提高并行度、廣播共享等

SparkSql

概述、Spark SQL與DataFrame 常用操作

RDD轉換DataFrame的兩種方式：反射方式、編程方式

通用的load和save操作

數據源：Parquet數據源、JSON數據源、Hive數據源、JDBC數據源

各種復雜案例

Spark Streaming

簡介概述 與storm和spark對比、helloword

StreamingContext、DStream與Receiver

DStream基于數據源與HDFS的實時程序

DStream之Kafka數據源、Direct模式 、Transformation操作、與SparkSQL結合使用

Hive

Hive背景、介紹

Hive環境安裝：內嵌模式、獨立模式

Hive 的DDL

Hive 的 DML

Hive常見內置函數

Hive高級數據類型

Hive窗口函數

Hive自定義函數（UDF、UDAF、UDTF）

Hive 分區表、桶操作

Hive數據裝載與導出

Hive動態分區、Hive高級查詢、Hive索引、Hive視圖

Hive之IO負載策略、HIVE sql優化、壓縮、分布式緩存

數據采集

Sqoop介紹

Sqoop導入和導出命令

Sqoop增量和全量操作

Sqoop優化

Flume介紹

Flume離線采集、實時采集、多路采集

Flume攔截器

Flume優化

離線數倉

某大型電商項目數據倉庫介紹

數據倉庫規范

數據粒度

數據倉庫模型以及分層

建模介紹

維度建模（維度建模和范式建模）

事實、星座模型

數據需求分析介紹

數據應用操作

數據抽取

數據清洗

數據轉化

數據加載

調度

Azkaban介紹

Azkaban系統結構

Azkaban定時案例

Azkaban性能優化

【師資簡介】

大數據資深講師 張老師

8年工作經驗+教學經驗，畢業于北京航空航天大學，大數據培訓講師，在工作場景當中從開發工程師到項目經理以及架構師等等，參與過多個大型項目背景，關系型數據庫以及大數據有深入的研究，關系型數據庫Oracle理論體系結構均有非常深厚的功底以及大數據Hadoop和spark有深入的研究。

教課心得：

場景教學，學以致用，善于將復雜的技術簡單化，能引導學生更快捷的學習方式

Oracle Dba資深講師 孫老師

教學：10年工作經驗+教學經驗，畢業于山東海洋大學，Oracle培訓講師，擁有大型OLTP系統數據庫性能調優、實施、咨詢經驗，數據庫崩潰災難恢復經驗。擁有多個大型項目開發、架構設計、集群經驗，并針對很多項目進行運維。

參與多家互聯網一線大廠億級流量架構設計：從架構到底層全方位涉獵。

教課心得：

課堂實戰均是項目中的模擬場景，以幽默風趣的方式表達出來。

【教學現場】

【學員心得】

經過幾個月的學習,我收獲了很多,也學到了很多,整個的學習體驗總體來說還是比較好的。并且在前幾周的比賽上,還僥幸地獲得了一等獎。

經過喬老師的悉心教導以及高老師每天提醒上課和關心我們,我在這學習的一個月很開心,并且我對 大數據 的理解又高了一個層次 ,張老師講的這些東西還是比較簡單的。張老師一直把我當做“種子選手”,我自我覺得我不是很配,我只是比大家早學了一點東西而已,等大家的基礎上去之后,我的優勢也就沒了。所以呢,以后我要更加努力的學習、打磨技術,把自己的優勢保持住,多跟老師以及班里的技術大佬們請教。由于這個月講的東西都比較基礎,所以挑戰性都比較小,調動不起斗志,希望以后的課程能夠激發我的斗志,為每天枯燥的學校課程里增添一點“樂趣”。

【機構環境】

【機構簡介】

“黑之貓”是一種文化符號，代表著神秘和智慧，在很多文化中，黑貓也代表著好運、幸運以及智慧等，象征著公司追求高品質、高效率和高智能的發展理念以及更廣闊的職業發展前景。未來，存在無限可能。

濟南黑之貓智能科技有限公司是專注于IT技術培訓公司，公司目前在北京、濟南等地均設有校區，致力于為客戶提供高品質、高效率、更全面的培訓數據庫開發/ETL開發/大數據開發/Java開發的培訓課程。我們以技術為核心，以客戶為中心，不斷追求卓越的業務品質和客戶體驗，以幫助學習者更好地了解較新的技術趨勢和市場需求。

我們擁有一支高素質、專業的團隊，他們具備豐富的行業經驗和專業技能以及各大高校畢業，確保了我們能夠為客戶提供較優質的服務。

企業愿景和使命：

黑之貓將堅守以下價值觀：

-創新：不斷創新，追求卓越。

-合作：互相信任、互相尊重，實現雙贏。

-品質：以客戶為中心，堅持高品質。

-服務：客戶至上，追求卓越的客戶體驗。

-團隊：相信、支持、尊重和激勵團隊成員。