【課程簡介】
大數據建模與分析挖掘技術已經逐步地應用到新興互聯網企業(如電子商務網站、搜索引擎、社交網站、互聯網廣告服務提供商等)、銀行金融證券企業、電信運營等行業,給這些行業帶來了一定的數據價值增值作用。
本次課程面向有一定的數據分析挖掘算法基礎的工程師,帶大家實踐大數據分析挖掘平臺的項目訓練,系統地講解數據準備、數據建模、挖掘模型建立、大數據分析與挖掘算法應用在業務模型中,結合主流的Hadoop與Spark大數據分析平臺架構,實現項目訓練。
結合業界使用廣泛的主流大數據平臺技術,重點剖析基于大數據分析算法與BI技術應用,包括分類算法、聚類算法、預測分析算法、推薦分析模型等在業務中的實踐應用,并根據講師給定的數據集,實現兩個基本的日志數據分析挖掘系統,以及電商(或內容)推薦系統引擎。
本課程基本的實踐環境是Linux集群,JDK1.8, Hadoop 2.7.*,Spark 2.1.*。
學員需要準備的電腦好是i5及以上CPU,4GB及以上內存,硬盤空間預留50GB(可用移動硬盤),基本的大數據分析平臺所依賴的軟件包和依賴庫等,講師已經提前部署在虛擬機鏡像(VMware鏡像),學員根據講師的操作任務進行實踐。
本課程采用技術原理與項目實戰相結合的方式進行教學,在講授原理的過程中,穿插實際的系統操作,本課程講師也精心準備的實際的應用案例供學員動手訓練。
【課程內容】
具體安排如下:
天:
大數據分析挖掘項目的數據集成操作訓練
業界主流的數據倉庫工具和大數據分析挖掘工具
基于Hadoop的大型數據倉庫管理平臺—HIVE數據倉庫集群的多維分析建模應用實踐
Spark大數據分析挖掘平臺實踐操作訓練
第二天:
聚類分析建模與挖掘算法的實現原理和技術應用
分類分析建模與挖掘算法的實現原理和技術應用
關聯分析建模與挖掘算法的實現原理和技術應用
第三天:
推薦分析挖掘模型與算法技術應用
回歸分析模型與預測算法
圖關系建模與分析挖掘及其鏈接分析和社交分析操作
神經網絡與深度學習算法模型及其應用實踐
項目實踐
培訓總結
【培訓目標】
1.本課程讓學員充分掌握大數據平臺技術架構、大數據分析的基本理論、機器學習的常用算法、國內外主流的大數據分析與BI商業智能分析解決方案、以及大數據分析在搜索引擎、廣告服務推薦、電商數據分析、金融客戶分析方面的應用案例。
2.本課程強調主流的大數據分析挖掘算法技術的應用和分析平臺的實施,讓學員掌握主流的基于大數據Hadoop和Spark、R的大數據分析平臺架構和實際應用,并用結合實際的生產系統案例進行教學,掌握基于Hadoop大數據平臺的數據挖掘和數據倉庫分布式系統平臺應用,以及商業和開源的數據分析產品加上Hadoop平臺形成大數據分析平臺的應用剖析。
3.讓學員掌握常見的機器學習算法,深入講解業界成熟的大數據分析挖掘與BI平臺的實踐應用,并以客戶分析系統、日志分析和電商推薦系統為案例,串聯常用的數據挖掘技術進行應用教學。
【培訓人群】
1.大數據分析應用開發工程師
2.大數據分析項目的規劃咨詢管理人員
3.大數據分析項目的IT項目高管人員
4.大數據分析與挖掘處理算法應用工程師
5.大數據分析集群運維工程師
6.大數據分析項目的售前和售后技術支持服務人員
【培訓特色】
定制授課+ 實戰案例訓練+ 互動咨詢討論,共3天
(說明:講師會提供虛擬機鏡像,并把Hadoop,Spark等系統提前部署在虛擬機中,分析挖掘平臺構建在Hadoop與Spark之上,學員自帶筆記本,運行虛擬機,并利用同樣的鏡像啟動多臺虛擬機,構建實驗集群,鏡像會提前給學員)
【師資力量】
張老師:阿里大數據專家,國內的Spark、Hadoop技術專家、虛擬化專家,對HDFS、MapReduce、HBase、Hive、Mahout、Storm、spark和openTSDB等Hadoop生態系統中的技術進行了多年的深入的研究,更主要的是這些技術在大量的實際項目中得到廣泛的應用,因此在Hadoop開發和運維方面積累了豐富的項目實施經驗。近年主要典型的項目有:某電信集團網絡優化、中國移動某省移動公司請賬單系統和某省移動詳單實時查詢系統、中國銀聯大數據數據票據詳單平臺、某大型銀行大數據記錄系統、某大型通信運營商全國用戶上網記錄、某省交通部門違章系統、某區域醫療大數據應用項目、互聯網公共數據大云(DAAS)和構建游戲云(Web Game Daas)平臺項目等。
鐘老師,男,博士畢業于中國科學院,獲工學博士學位(計算機系統結構方向),曾在國內某高校和某大型通信企業工作過,目前在中國科學院某研究所工作,工程師,副研究員,課題組長,團隊成員二十余人。大數據、云計算系列課程建設與教學專家,新技術課程開發組長。近八年來帶領團隊主要從事大數據管理與高性能分析處理(Hadoop、Spark、Storm)、大數據倉庫(HIVE)和實時數據倉庫(SparkSQL、Shark),大數據建模挖掘與機器學習(Mahout、MLib、Oryx、Pentaho BI、SAS、SPSS、R等)、MPP并行數據倉庫(Greenplum etc)、NoSQL與NewSQL分布式數據庫(HBase、MongoDB、Cassandra etc)、(移動)電子商務平臺、大數據搜索平臺(ElasticSearch、Solr、Lucene等)、云計算與虛擬化(OpenStack,VMware,XenServer,CloudStack,KVM,Docker,SaaS服務)、云存儲系統、Swift對象存儲系統、網絡GIS地圖服務器、互聯網+在線教育云平臺方面的項目研發與管理工作。
【頒發證書】
參加相關培訓并通過考試的學員,可以獲得:
1.工業和信息化部頒發的-大數據挖掘工程師職業技能證書。該證書可作為專業技術人員職業能力考核的證明,以及專業技術人員崗位聘用、任職、定級和晉升職務的重要依據。
注:請學員帶二寸彩照2張(背面注明姓名)、身份證復印件一張。
【培訓費用及須知】
培訓費7800元/人。(含培訓費、資料費、考試費、證書費、講義費等)。需要住宿學員請提前通知,可統一安排,費用自理。