课程分类

课程介绍
课程目录
用户评论
课程介绍
课程目录
用户评论

你将获得

  • 掌握某些知识点
  • 学会某些技巧(或思路)

教学服务

  • icon

    1v1专属答疑服务

  • icon

    BAT专家面试辅导

课程详情


学习内容

第一讲_spark简介

Ø spark介绍

Ø Sparkhadoop的比较

Ø Spark的使用场景介绍

Ø spark软件栈

Ø 动手搭建一个最简单的spark集群

Ø 运行例子程序SparkPi

实战:单节点的spark部署和运行SparkPi

 

第二讲_spark部署模式介绍

Ø Spark部署模式OverView

Ø Spark启动过程详解

Ø Spark集群部署之Standalone

Ø Spark集群部署之Spark on Yarn

Ø Spark集群部署之Spark on Mesos

实战:完全分布式的spark standalonespark on yarn模式的动手实战

 

第三讲_spark集群硬件,开发语言和java版本的选择

Ø spark集群硬件配置

Ø spark开发的语言选择

Ø Java版本的选择
 

第四讲_sparkrdd及其操作介绍

Ø RDD介绍及创建

Ø RDD的操作

Ø RDD函数传递

Ø 闭包

Ø shuffle介绍

Ø RDD的持久化

Ø 共享变量

Ø 常用transformationactionAPI介绍

Ø spark-shell里动手实战wordcount及常用API

Ø Scala介绍

实战:动手在Sparkshell中编写wordcountlinecount,以及动手实验常用的RDD操作。
 

第五讲_SparkSQLDataFrame讲解

Ø SparkSQL简介

Ø SparkSQLDataframeSave&Load

Ø SparkSQLDataframe介绍及创建

Ø SparkSQLDataframeParquet

Ø SparkSQLDataframeJson&HiveTables

Ø SparkSQLDataframeJDBC&PerformanceTuning&Cli&ThriftServer

实战:SparksqlDataframe创建,配置,SparkSQL连接hive,及ThriftServer.

 

第六讲_SparkStreamingDStream介绍

Ø SparkStreamingdemo和介绍

Ø DStreamDataSource

Ø DStreamTransformationoutput

Ø DStream持久化,checkpoint,以及和DataFrame的交互

Ø SparkStreaming应用的部署和监控

实战:1) Spark Streaming应用的监控与分析

 

第七讲_SparkStreaming性能调优,容错和Kafka集成

Ø SparkStreaming的性能调优

Ø SparkStreaming的容错

Ø SparkStreamingKafka的集成

 

第八讲__SparkSQL项目实战之文本比对

实战:在spark上开发一个文本比对的SparkSQL的应用

 

第九讲_SparkStreaming+SparkSQL+Kafka项目实战开发

实战:在第八讲的基础上,继续开发一个sparkstreaming结合sparksqlkafka的流数据处理应用



PPV课答疑群
      Spark实战 137530550 (凭报名审核进群) 
 

温馨提示
  • 请勿私下交易
    请勿在平台外交易。与机构和老师私下交易造成的任何损失及纠纷,腾讯课堂不承担任何责任
  • 听课说明

    1、电脑:访问腾讯课堂官网 ke.qq.com 查看我的课表或下载win/mac客户端听课

    2、手机/平板:下载腾讯课堂APP, 进入学习页面听课