《统计学习理论及应用》是一门既具有高度理论学术价值，又具有强烈工程应用背景的课程。通过本课程的教学，使学生了解统计学习的基本知识与基本原理，掌握统计学习理论的应用方法，培养学生运用统计学习算法解决实际问题的能力，为进一步的科学研究打下坚实的基础。
《统计学习理论及应用》课程总学时40。
第一章：统计学习概述（1学时）
1 本章教学内容：
（1）统计学习的基本知识与概念（1学时）
2 本章教学要求：通过本章课程的学习，要求学生
理解：
（1）统计学习的基本知识与概念，以及应用领域。
掌握：
（1）统计学习基本概念与定义。
（2）统计模式识别基本概念与定义。
（3）统计模式识别应用领域。
（4）统计模式识别系统框架。
（5）生成法与判别法。
3 本章教学重点：
（1）使学生掌握统计学习基本知识与概念，以及应用领域。
4 本章教学难点：
（1）理解生成法与判别法的区别。
第二章：线性代数与概率论概述（2学时）
1 本章教学内容：
（1）线性代数概述（1学时）
（2）概率论概述（1学时）
2 本章教学要求：通过本章课程的学习，要求学生
理解：
（1）统计学习中涉及到的线性代数与概率论的主要概念和性质。
掌握：
（1）向量的基本概念、性质和计算。
（2）矩阵的基本概念、性质和计算。
（3）概率的基本概念、性质和计算。
（4）随机变量及其分布的基本概念、性质和计算。
（5）常见的概率分布。
3 本章教学重点：
（1）使学生掌握统计学习中涉及到的线性代数与概率论的主要概念，性质，以及常见的概率分布。
4 本章教学难点：
（1）随机变量的概念和理解。
第三章：回归模型（4学时）
1 本章教学内容：
（1）最小二乘法（2学时）
（2）回归分析的概率解释（1学时）
（3）非线性函数的回归分析（1学时）
2 本章教学要求：通过本章课程的学习，要求学生
理解：
（1）回归分析的主要概念、性质和方法。
掌握：
（1）回归分析的基本理论概念、性质、计算。
（2）最小二乘法的推导和计算。
（3）回归分析的概率解释。
（4）非线性函数的回归分析。
（5）回归分析的深度思考。
3 本章教学重点：
（1）使学生掌握回归分析推导和计算。
4 本章教学难点：
（1）回归分析概率解释。
第四章：感知机（4学时）
1 本章教学内容：
（1）感知机的基本概念（0.5学时）
（2）感知机的学习算法（2.5学时）
（3）感知机学习算法的对偶形式（1学时）
2 本章教学要求：通过本章课程的学习，要求学生
理解：
（1）感知机的主要概念、性质和方法。
掌握：
（1）感知机判别函数。
（2）感知机算法的对偶形式。
3 本章教学重点：
（1）使学生掌握感知机的原理和推导计算。
4 本章教学难点：
（1）感知机算法的对偶形式。
第五章：支持向量机（12学时）
1 本章教学内容：
（1）线性可分支持向量机（3学时）
（2）凸优化概述（2学时）
（3）KKT条件简介（2学时）
（4）线性不可分支持向量机（2学时）
（5）核函数简介（1学时）
（6）核支持向量机（1学时）
（7）序列最小最优化算法（1学时）
2 本章教学要求：通过本章课程的学习，要求学生
理解：
（1）支持向量机的主要概念、性质和方法。
掌握：
（1）支持向量机核心思想。
（2）凸优化的基本思想和概念。
（3）支持向量机的公式推导。
3 本章教学重点：
（1）使学生掌握支持向量机核心思想，凸优化的基本思想和概念，支持向量机的公式推导。
4 本章教学难点：
（1）KKT（Karush-Kuhn-Tucker）条件的理解和推导。
第六章：多层感知机（6学时）
1 本章教学内容：
（1）感知机概述（1学时）
（2）异或问题与二层感知机（1学时）
（3）反向传播（BP）算法（3学时）
（4）反向传播（BP）算法计算示例（1学时）
2 本章教学要求：通过本章课程的学习，要求学生
理解：
（1）多层感知机的主要概念、性质和方法。
掌握：
（1）梯度下降法的原理和推导。
（2）反向传播算法的原理和推导。
（3）代价函数的种类与特点。
3 本章教学重点：
（1）使学生掌握梯度下降法的原理和推导，以及代价函数的种类与特点。
4 本章教学难点：
（1）反向传播算法的原理和推导。
第七章：集成方法（4学时）
1 本章教学内容：
（1）集成方法概述（1学时）
（2）装袋法和提升法（1学时）
（3）Ababoost算法（2学时）
2 本章教学要求：通过本章课程的学习，要求学生
理解：
（1）集成方法的主要概念、性质和方法。
掌握：
（1）结合多分类器方法。
（2）装袋法。
（3）提升法。
3 本章教学重点：
（1）使学生掌握装袋法、提升法的特点与选取。
4 本章教学难点：
（1）提升法学习的原理与推导。
第八章：数据表示-含参模型（4学时）
1 本章教学内容：
（1）最大似然估计（2学时）
（2）EM期望值最大算法（2学时）
2 本章教学要求：通过本章课程的学习，要求学生
理解：
（1）含参模型的主要概念和方法。
掌握：
（1）未知概率密度函数的估计方法种类与推导。
（2）期望最大（EM）算法原理与推导。
3 本章教学重点：
（1）未知概率密度函数的估计方法种类与推导，以及期望最大（EM）算法原理与推导。
4 本章教学难点：
（1）期望最大（EM）算法原理与推导。
第九章：数据表示-不含参模型（3学时）
1 本章教学内容：
（1）直方图方法（1学时）
（2）Parzen窗法（1学时）
（3）K近邻密度估计（1学时）
2 本章教学要求：通过本章课程的学习，要求学生
理解：
（1）不含参模型的主要概念和方法。
掌握：
（1）直方图方法的原理与推导。
（2）Parzen窗法的原理与推导。
（3）K近邻密度估计的原理与推导。
3 本章教学重点：
（1）直方图方法、Parzen窗法和K近邻密度估计的原理与推导。
4 本章教学难点：
（1）Parzen窗法的原理与推导。
课程采取堂授的教学方式。
