我要報名

咨詢電話：
手　　機：	郵箱：

課程概述

大數(shù)據(jù)建模與分析挖掘技術(shù)已經(jīng)逐步地應(yīng)用到新興互聯(lián)網(wǎng)企業(yè)（如電子商務(wù)網(wǎng)站、搜索引擎、社交網(wǎng)站、互聯(lián)網(wǎng)廣告服務(wù)提供商等）、銀行金融證券企業(yè)、電信運營等行業(yè)，給這些行業(yè)帶來了一定的數(shù)據(jù)價值增值作用。

本次課程面向有一定的數(shù)據(jù)分析挖掘算法基礎(chǔ)的工程師，帶大家實踐大數(shù)據(jù)分析挖掘平臺的項目訓(xùn)練，系統(tǒng)地講解數(shù)據(jù)準(zhǔn)備、數(shù)據(jù)建模、挖掘模型建立、大數(shù)據(jù)分析與挖掘算法應(yīng)用在業(yè)務(wù)模型中，結(jié)合主流的Hadoop與Spark大數(shù)據(jù)分析平臺架構(gòu)，實現(xiàn)項目訓(xùn)練。

結(jié)合業(yè)界使用最廣泛的主流大數(shù)據(jù)平臺技術(shù)，重點剖析基于大數(shù)據(jù)分析算法與BI技術(shù)應(yīng)用，包括分類算法、聚類算法、預(yù)測分析算法、推薦分析模型等在業(yè)務(wù)中的實踐應(yīng)用，并根據(jù)講師給定的數(shù)據(jù)集，實現(xiàn)兩個基本的日志數(shù)據(jù)分析挖掘系統(tǒng)，以及電商（或內(nèi)容）推薦系統(tǒng)引擎。

本課程基本的實踐環(huán)境是Linux集群，JDK1.8， Hadoop 2.7.*，Spark 2.1.*。

學(xué)員需要準(zhǔn)備的電腦最好是i5及以上CPU，4GB及以上內(nèi)存，硬盤空間預(yù)留50GB（可用移動硬盤），基本的大數(shù)據(jù)分析平臺所依賴的軟件包和依賴庫等，講師已經(jīng)提前部署在虛擬機鏡像（VMware鏡像），學(xué)員根據(jù)講師的操作任務(wù)進(jìn)行實踐。

本課程采用技術(shù)原理與項目實戰(zhàn)相結(jié)合的方式進(jìn)行教學(xué)，在講授原理的過程中，穿插實際的系統(tǒng)操作，本課程講師也精心準(zhǔn)備的實際的應(yīng)用案例供學(xué)員動手訓(xùn)練。

培訓(xùn)受眾:

1.大數(shù)據(jù)分析應(yīng)用開發(fā)工程師

2.大數(shù)據(jù)分析項目的規(guī)劃咨詢管理人員

3.大數(shù)據(jù)分析項目的IT項目高管人員

4.大數(shù)據(jù)分析與挖掘處理算法應(yīng)用工程師

5.大數(shù)據(jù)分析集群運維工程師

6.大數(shù)據(jù)分析項目的售前和售后技術(shù)支持服務(wù)人員

課程收益:

1.本課程讓學(xué)員充分掌握大數(shù)據(jù)平臺技術(shù)架構(gòu)、大數(shù)據(jù)分析的基本理論、機器學(xué)習(xí)的常用算法、國內(nèi)外主流的大數(shù)據(jù)分析與BI商業(yè)智能分析解決方案、以及大數(shù)據(jù)分析在搜索引擎、廣告服務(wù)推薦、電商數(shù)據(jù)分析、金融客戶分析方面的應(yīng)用案例。

2.本課程強調(diào)主流的大數(shù)據(jù)分析挖掘算法技術(shù)的應(yīng)用和分析平臺的實施，讓學(xué)員掌握主流的基于大數(shù)據(jù)Hadoop和Spark、R的大數(shù)據(jù)分析平臺架構(gòu)和實際應(yīng)用，并用結(jié)合實際的生產(chǎn)系統(tǒng)案例進(jìn)行教學(xué)，掌握基于Hadoop大數(shù)據(jù)平臺的數(shù)據(jù)挖掘和數(shù)據(jù)倉庫分布式系統(tǒng)平臺應(yīng)用，以及商業(yè)和開源的數(shù)據(jù)分析產(chǎn)品加上Hadoop平臺形成大數(shù)據(jù)分析平臺的應(yīng)用剖析。

3.讓學(xué)員掌握常見的機器學(xué)習(xí)算法，深入講解業(yè)界成熟的大數(shù)據(jù)分析挖掘與BI平臺的實踐應(yīng)用，并以客戶分析系統(tǒng)、日志分析和電商推薦系統(tǒng)為案例，串聯(lián)常用的數(shù)據(jù)挖掘技術(shù)進(jìn)行應(yīng)用教學(xué)。

課程大綱:

第一天業(yè)界主流的數(shù)據(jù)倉庫工具和大數(shù)據(jù)分析挖掘工具

1.業(yè)界主流的基于Hadoop和Spark的大數(shù)據(jù)分析挖掘項目解決方案

2.業(yè)界數(shù)據(jù)倉庫與數(shù)據(jù)分析挖掘平臺軟件工具

3.Hadoop數(shù)據(jù)倉庫工具Hive

4.Spark實時數(shù)據(jù)倉庫工具SparkSQL

5.Hadoop數(shù)據(jù)分析挖掘工具M(jìn)ahout

6.Spark機器學(xué)習(xí)與數(shù)據(jù)分析挖掘工具M(jìn)Llib

7.大數(shù)據(jù)分析挖掘項目的實施步驟

大數(shù)據(jù)分析挖掘項目的數(shù)據(jù)集成操作訓(xùn)練

1.日志數(shù)據(jù)解析和導(dǎo)入導(dǎo)出到數(shù)據(jù)倉庫的操作訓(xùn)練

2.從原始搜索數(shù)據(jù)集中抽取、集成數(shù)據(jù)，整理后形成規(guī)范的數(shù)據(jù)倉庫

3.數(shù)據(jù)分析挖掘模塊從大型的集中式數(shù)據(jù)倉庫中訪問數(shù)據(jù)，一個數(shù)據(jù)倉庫面向一個主題，構(gòu)建兩個數(shù)據(jù)倉庫

4.同一個數(shù)據(jù)倉庫中的事實表數(shù)據(jù)，可以給多個不同類型的分析挖掘任務(wù)調(diào)用

5.去除噪聲

基于Hadoop的大型數(shù)據(jù)倉庫管理平臺—HIVE數(shù)據(jù)倉庫集群的多維分析建模應(yīng)用實踐

6.基于Hadoop的大型分布式數(shù)據(jù)倉庫在行業(yè)中的數(shù)據(jù)倉庫應(yīng)用案例

7.Hive數(shù)據(jù)倉庫集群的平臺體系結(jié)構(gòu)、核心技術(shù)剖析

8.Hive Server的工作原理、機制與應(yīng)用

9.Hive數(shù)據(jù)倉庫集群的安裝部署與配置優(yōu)化

10.Hive應(yīng)用開發(fā)技巧

11.Hive SQL剖析與應(yīng)用實踐

12.Hive數(shù)據(jù)倉庫表與表分區(qū)、表操作、數(shù)據(jù)導(dǎo)入導(dǎo)出、客戶端操作技巧

13.Hive數(shù)據(jù)倉庫報表設(shè)計

14.將原始的日志數(shù)據(jù)集，經(jīng)過整理后，加載至Hadoop + Hive數(shù)據(jù)倉庫集群中，用于共享訪問

Spark大數(shù)據(jù)分析挖掘平臺實踐操作訓(xùn)練

15.Spark大數(shù)據(jù)分析挖掘平臺的部署配置

16.Spark數(shù)據(jù)分析庫MLlib的開發(fā)部署

17.Spark數(shù)據(jù)分析挖掘示例操作，從Hive表中讀取數(shù)據(jù)并在分布式內(nèi)存中運行

第二天聚類分析建模與挖掘算法的實現(xiàn)原理和技術(shù)應(yīng)用

18.聚類分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應(yīng)用，包括：

a)Canopy聚類（canopy clustering）

b)K均值算法（K-means clustering）

c)模糊K均值（Fuzzy K-means clustering）

d)EM聚類，即期望最大化聚類（Expectation Maximization）

e)以上算法在Spark MLib中的實現(xiàn)原理和實際場景中的應(yīng)用案例。

19.Spark聚類分析算法程序示例

分類分析建模與挖掘算法的實現(xiàn)原理和技術(shù)應(yīng)用

20.分類分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應(yīng)用， 包括：

f)Spark決策樹算法實現(xiàn)

g)邏輯回歸算法（logistics regression）

h)貝葉斯算法（Bayesian與Cbeyes）

i)支持向量機（Support vector machine）

j)以上算法在Spark MLlib中的實現(xiàn)原理和實際場景中的應(yīng)用案例。

21.Spark客戶資料分析與給用戶貼標(biāo)簽的程序示例

22.Spark實現(xiàn)給商品貼標(biāo)簽的程序示例

23.Spark實現(xiàn)用戶行為的自動標(biāo)簽和深度技術(shù)

關(guān)聯(lián)分析建模與挖掘算法的實現(xiàn)原理和技術(shù)應(yīng)用

24.預(yù)測、推薦分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應(yīng)用，包括：

k)Spark頻繁模式挖掘算法（parallel FP Growth Algorithm）應(yīng)用

l)Spark關(guān)聯(lián)規(guī)則挖掘（Apriori）算法及其應(yīng)用

m)以上算法在Spark MLib中的實現(xiàn)原理和實際場景中的應(yīng)用案例。

25.Spark關(guān)聯(lián)分析程序示例

第三天推薦分析挖掘模型與算法技術(shù)應(yīng)用

26.推薦算法原理及其在Spark MLlib中的實現(xiàn)與應(yīng)用，包括：

a)Spark協(xié)同過濾算法程序示例

b)Item-based協(xié)同過濾與推薦

c)User-based協(xié)同過濾與推薦

d)交叉銷售推薦模型及其實現(xiàn)

回歸分析模型與預(yù)測算法

27.利用線性回歸（多元回歸）實現(xiàn)訪問量預(yù)測

28.利用非線性回歸預(yù)測成交量和訪問量的關(guān)系

29.基于R+Spark實現(xiàn)回歸分析模型及其應(yīng)用操作

30.Spark回歸程序?qū)崿F(xiàn)異常點檢測的程序示例

圖關(guān)系建模與分析挖掘及其鏈接分析和社交分析操作

31.利用Spark GraphX實現(xiàn)網(wǎng)頁鏈接分析，計算網(wǎng)頁重要性排名

32.實現(xiàn)信息傳播的社交關(guān)系傳遞分析，互聯(lián)網(wǎng)用戶的行為關(guān)系分析任務(wù)的操作訓(xùn)練

神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)算法模型及其應(yīng)用實踐

33.神經(jīng)網(wǎng)絡(luò)算法Neural Network的實現(xiàn)方法和挖掘模型應(yīng)用

34.基于人工神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)的訓(xùn)練過程

a)傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方法

b)Deep Learning的訓(xùn)練方法

35.深度學(xué)習(xí)的常用模型和方法

a)CNN（Convolutional Neural Network）卷積神經(jīng)網(wǎng)絡(luò)

b)RNN（Recurrent Neural Network）循環(huán)神經(jīng)網(wǎng)絡(luò)模型

c)Restricted Boltzmann Machine(RBM)限制波爾茲曼機

36.基于Spark的深度學(xué)習(xí)算法模型庫的應(yīng)用程序示例

項目實踐

37.日志分析系統(tǒng)與日志挖掘項目實踐

a)Hadoop，Spark，ELK技術(shù)構(gòu)建日志數(shù)據(jù)倉庫

b)互聯(lián)網(wǎng)微博日志分析系統(tǒng)項目

38.推薦系統(tǒng)項目實踐

a)電影數(shù)據(jù)分析與個性化推薦關(guān)聯(lián)分析項目

培訓(xùn)總結(jié)

39.項目方案的課堂討論，討論實際業(yè)務(wù)中的分析需求，剖析各個環(huán)節(jié)的難點、痛點、瓶頸，啟發(fā)出解決之道；完成講師布置的項目案例，鞏固學(xué)過的大數(shù)據(jù)分析挖掘處理平臺技術(shù)知識以及應(yīng)用技能

第四天學(xué)員考試與業(yè)界交流

周老師

周老師， 中國科學(xué)院通信與信息系統(tǒng)專業(yè)博士。北京郵電大學(xué)移動互聯(lián)網(wǎng)與信息化實驗室特聘研究員、對外經(jīng)貿(mào)大學(xué)信息學(xué)院特聘兼職教師、中國移動集團(tuán)高級培訓(xùn)講師，長期從事大數(shù)據(jù)、4G、移動互聯(lián)網(wǎng)安全、管理及大數(shù)據(jù)精確營銷等研究方向。國內(nèi)頂級信息系統(tǒng)架構(gòu)師，金牌講師，技術(shù)顧問，移動開發(fā)專家。擁有豐富的通信信息系統(tǒng)設(shè)計、開發(fā)經(jīng)驗及培訓(xùn)行業(yè)經(jīng)驗，先后為全國超過15家省移動公司，超過30家地市移動公司有過項目開發(fā)合作及授課，擔(dān)任多個大型通信項目的總師。

張老師：阿里大數(shù)據(jù)高級專家，國內(nèi)資深的Spark、Hadoop技術(shù)專家、虛擬化專家，對HDFS、MapReduce、HBase、Hive、Mahout、Storm、spark和openTSDB等Hadoop生態(tài)系統(tǒng)中的技術(shù)進(jìn)行了多年的深入的研究，更主要的是這些技術(shù)在大量的實際項目中得到廣泛的應(yīng)用，因此在Hadoop開發(fā)和運維方面積累了豐富的項目實施經(jīng)驗。近年主要典型的項目有：某電信集團(tuán)網(wǎng)絡(luò)優(yōu)化、中國移動某省移動公司請賬單系統(tǒng)和某省移動詳單實時查詢系統(tǒng)、中國銀聯(lián)大數(shù)據(jù)數(shù)據(jù)票據(jù)詳單平臺、某大型銀行大數(shù)據(jù)記錄系統(tǒng)、某大型通信運營商全國用戶上網(wǎng)記錄、某省交通部門違章系統(tǒng)、某區(qū)域醫(yī)療大數(shù)據(jù)應(yīng)用項目、互聯(lián)網(wǎng)公共數(shù)據(jù)大云(DAAS)和構(gòu)建游戲云(Web Game Daas)平臺項目等。

我要報名

在線報名：大數(shù)據(jù)建模與分析挖掘應(yīng)用(深圳)