基于Spark2.x开发企业级个性化推荐系统
聚焦算法原理，搭建企业级系统，给大数据开发工程师的刚需课
课程结合算法原理，利用Spark 2.x 和主流技术栈，通过Flume多级高可用日志收集用户行为，使用HBase特征向量存储，利用算法原理结合Spark和Storm进行离线和实时推荐，实现图书电商场景下的个性化推荐系统。
提取码：08fy
[/wm_notice]
-
第1章 课程介绍与学习指南 试看3 节 | 7分钟
本节主要进行课程的介绍，学习路线与指南，如何更好的学习本课程？为什么要学习本课程，学习本课程具体能收获什么？
- 视频：1-1 课程介绍及导学 (06:32)试看
- 图文：1-2 怎么更好的使用慕课平台
- 图文：1-3 你真的会问问题吗？
-
第2章 了解推荐系统的生态 试看5 节 | 53分钟
本章带你了解推荐系统的生态，让你从思维上重塑对推荐系统的认知。了解推荐系统是由哪些关键元素支撑的，推荐算法的分类以及什么才算一个好的推荐系统
- 图文：2-1 本章重难点提点
- 视频：2-2 推荐系统的关键元素和思维模式 (11:49)试看
- 视频：2-3 推荐算法的主要分类 (14:07)
- 视频：2-4 推荐系统常见的问题 (09:05)
- 视频：2-5 推荐系统效果评测 (17:55)
-
第3章 给学习算法打基础 试看3 节 | 30分钟
本章回顾并梳理了学习算法必需的数学知识和统计学知识，帮助大家巩固基础，平滑过渡，为后面学习推荐算法做铺垫。
- 图文：3-1 本章重点难点提点
- 视频：3-2 推荐系统涉及的数学知识 (11:25)试看
- 视频：3-3 推荐系统涉及的概率统计知识 (17:58)
-
第4章 详解协同过滤推荐算法原理12 节 | 165分钟
本章介绍推荐算法中最常用也最受欢迎的协同过滤推荐算法。首先巩固学习协同过滤特有的数学基础，然后分别从推荐算法的三个类型：基于用户，基于物品，基于模型来展开，并且对它们进行代码演示。
- 图文：4-1 本章重点难点提点
- 视频：4-2 本章作业 (04:17)
- 视频：4-3 协同过滤的数学知识：最小二乘法 (15:01)
- 视频：4-4 协同过滤的数学知识：梯度下降法 (23:55)
- 视频：4-5 协同过滤的数学知识：余弦相似度 (14:09)
- 视频：4-6 什么是user-based的协同过滤 (15:26)
- 视频：4-7 基于Spark实现user-based协同过滤 (14:12)
- 视频：4-8 什么是item-based协同过滤 (16:32)
- 视频：4-9 基于Spark实现item-based协同过滤 (13:03)
- 视频：4-10 基于模型的协同过滤 (04:49)
- 视频：4-11 基于矩阵分解模型的两种算法：SVD和PMF (18:49)
- 视频：4-12 缺失值填充 (24:39)
-
第5章 Spark内置推荐算法ALS原理3 节 | 37分钟
本章讲解Spark内置的推荐算法：ALS。从算法原理、Spark上实现、源码阅读，这3个方面全面讲解ALS算法。
- 视频：5-1 ALS 算法原理 (05:52)
- 视频：5-2 ALS 算法在Spark上的实现 (18:51)
- 视频：5-3 ALS 算法在 Spark 上的源码分析 (11:28)
-
第6章 推荐系统搭建——需求分析和环境搭建5 节 | 30分钟
开始进行推荐系统的实操了！大家准备好了吗？这章我们进行对整个推荐系统做一个需求分析。并且手把手带领环境搭建。
- 图文：6-1 本章重点难点提点
- 视频：6-2 项目需求分析 技术分解 模块设计 (04:43)
- 视频：6-3 开发环境搭建 (19:13)
- 视频：6-4 环境问题 工具问题 版本问题 (05:44)
- 图文：6-5 【实操手册】环境搭建文档 ( 完善版 )
-
第7章 推荐系统搭建——UI界面模块4 节 | 53分钟
先从简单内容起步，一般大数据开发工程师主要负责数据的收集和分析，这里为了演示方便我们制作了简单的前端页面，使用了 VUE、Element-UI和EChatrs
- 视频：7-1 VUE+ElementUI简单入门 (14:08)
- 视频：7-2 用户访问页面实现 (11:48)
- 视频：7-3 AB Test 控制台页面（上） (13:24)
- 视频：7-4 AB Test 控制台页面（下） (13:23)
-
第8章 推荐系统搭建——数据层6 节 | 88分钟
做好前期准备，终于步入正轨了，大家是不是都按耐不住了？本章将带领大家开发项目的数据层的部分，分别实现数据采集、清洗、分析等功能。
- 视频：8-1 数据上报（上） (18:07)
- 视频：8-2 数据上报（下） (13:57)
- 视频：8-3 日志清洗和格式化数据（上） (17:13)
- 视频：8-4 日志清洗和格式化数据（中） (15:28)
- 视频：8-5 日志清洗和格式化数据（下） (15:07)
- 视频：8-6 分析用户行为和商品属性 (07:30)
-
第9章 推荐系统搭建——推荐引擎11 节 | 188分钟
本章将要介绍本次项目的重难点，推荐引擎模块的搭建。主要讲解推荐模块的几个核心：召回，过滤，特征计算和排序。逐步完成实时推荐架构的搭建。
- 视频：9-1 基于用户行为构建评分矩阵 (09:52)
- 视频：9-2 离线推荐：基于用户角度召回策略筛选候选集（上） (22:20)
- 视频：9-3 离线推荐：基于用户角度召回策略筛选候选集（下） (21:57)
- 视频：9-4 离线推荐：基于物品角度召回策略筛选候选集（上） (23:11)
- 视频：9-5 离线推荐：基于物品角度召回策略筛选候选集（下） (21:55)
- 视频：9-6 离线推荐：写特征向量到HBase (07:13)
- 视频：9-7 离线推荐：基于模型的排序 (12:22)
- 视频：9-8 实时推荐：Storm解析用户行为 (17:04)
- 视频：9-9 实时推荐：通过FTRL更新特征权重-原理 (13:33)
- 视频：9-10 实时推荐：通过FTRL更新特征权重-代码实现 (26:06)
- 视频：9-11 离线推荐和实时推荐项目梳理 (12:07)
-
第10章 推荐系统搭建——推荐结果存储3 节 | 30分钟
本章演示个性化推荐系统的评估模块的搭建。主要是介绍主流的测试模块A/B测试，逐步开发搭建一个完整的A/B测试后台
- 视频：10-1 数仓ODS和DWD层搭建 (09:23)
- 视频：10-2 搭建用户行为日志数据仓库 (10:17)
- 视频：10-3 利用外部分区表存储用户行为 (09:43)
-
第11章 推荐系统搭建——推荐效果评估模块5 节 | 48分钟
本章演示个性化推荐系统收尾环节，评估模块的搭建。主要介绍主流的测试模块A/BTest，逐步搭建一个完整的A/B测试后台
- 视频：11-1 AB Test (05:12)
- 视频：11-2 AB Test的分流管理 (06:26)
- 视频：11-3 搭建AB Test 实验控制台（上） (18:01)
- 视频：11-4 搭建AB Test 实验控制台（下） (11:57)
- 视频：11-5 常用评测指标 (05:37)
-
第12章 知识拓展——基于关联规则的推荐算法5 节 | 75分钟
本章讲解两个主要的关联规则推荐算法，Apriori和FP-Growth，并通过Spark去演示这两个算法的实现。
- 视频：12-1 基于Apriori的关联算法 (07:17)
- 视频：12-2 基于Spark实现Apriori算法（上） (18:24)
- 视频：12-3 基于Spark实现Apriori算法（下） (21:52)
- 视频：12-4 基于FP-Growth的关联算法 (13:09)
- 视频：12-5 基于Spark实现FP-Growth算法 (13:26)
-
第14章 知识拓展——基于内容的推荐算法3 节 | 39分钟
本章主要介绍主流的基于内容的推荐算法，分别介绍TF-IDF算法、文本向量化、用户行为向量化和长期模型。最后对所有算法知识以及课程项目进行一个总结和展望。
- 视频：14-1 文本向量化 (09:54)
- 视频：14-2 基于Spark实现TF-IDF (16:29)
- 视频：14-3 课程总结 (12:01)
