转载自公众号：机器学习初学者

徐亦达教授在github公布了他的历年机器学习相关课件、視頻，黄海广博士协助徐亦达老师对课件目录进行翻译和整理，并提供㊦傤。

徐亦达老师简介

徐亦达，现任悉尼科技大学教授，UTS全球数据技术中心机器学习和数据分析实验室主任。主要研究方向是机器学习，数据分析和计算机视觉。他在国际重要期刊与会议发表数篇高影响因子论文；编写了大量的数理统计、概率和机器学习教材。

 

徐亦达老师的课件的目录

前言

• 笔记的視頻演示

• 最近的研究讲义

• 噪声对比估计 (Noise Contrastive Estimation), 概率密度再参数化

一、基础知识

1.概率论与数理统计基础

• 贝叶斯模型

• 概率估计

• 统计属性

2.概率模型

• E-M算法

• 状态空间模型（动态模型）

3.高级概率模型

• 贝叶斯非参数（BNP）及其推导基础

• 贝叶斯非参数（BNP）扩展

• 行列式点过程

4.推导课件

• 变分推导

• 随机矩阵
  

• 蒙特卡洛简介

• 马尔可夫链蒙特卡洛

• 粒子滤波器（序列蒙特卡洛）

二、深度学习

• 优化方法

• 神经网络

• 卷积神经网络：从基础到最近的研究

• 词表示和近似Softmax

• 深度自然语言处理

• 深度增强学习

• 受限玻尔兹曼机

三、数据科学

• 30分钟介绍人工智能和机器学习

• 回归方法

• 推荐系统

• 降维

• 数据分析简介和相关的jupyternotebook

四、致谢

徐亦达老师的课件的内容简介及相关文件

前言

• 笔记的視頻演示

简介：

徐亦达老师在2015年用中文录制了这些课件中约20％的内容 (备注：课件为全英文)，大家可以在YouTube、哔哩哔哩 以及优酷观看和㊦傤。

YouTube：

https://www.youtube.com/channel/UConITmGn5PFr0hxTI2tWD4Q

哔哩哔哩：

https://space.bilibili.com/327617676

优酷：

http://i.youku.com/i/UMzIzNDgxNTg5Ng

 

• 最近的研究讲义

2018年7月在创新工厂和北大合办的DeeCamp的课件(当概率遇到神经网络)

简介：

主题包括：EM算法和矩阵胶囊网络;行列式点过程和神经网络压缩; 卡尔曼滤波器和LSTM; 模型估计和二分类问题关系。

文件：DeeCamp2018_Xu_final.pptx

 

• 噪声对比估计 (Noise Contrastive Estimation), 概率密度再参数化

简介：

噪声对比估计 (Noise Contrastive Estimation), 概率密度再参数化以及自然梯度的详细说明。

文件：selected_probability.pdf

一、基础知识

1.概率论与数理统计基础

• 贝叶斯模型 

简介：

贝叶斯模型的修订包括贝叶斯预测模型，条件期望。

文件：bayesian.pdf

 

• 概率估计

简介：一些有用的分布，共轭，MLE，MAP，指数族和自然参数。

文件：probability.pdf

• 统计属性

简介：有用的统计属性可以帮助我们证明事物，包括切比雪夫和马尔科夫不等式。

文件：statistics.pdf

 

2.概率模型

• E-M算法

简介： E-M的收敛证明，E-M到高斯混合模型的例子。 

文件：em.pdf，gmm_demo.m，kmeans_demo.m

优酷链接：

http://v.youku.com/v_show/id_XMTM1MjY1MDU5Mg

 

• 状态空间模型（动态模型） 

简介：

详细解释了卡尔曼滤波器和隐马尔可夫模型。

文件：

dynamic_model.pdf，kalman_demo.m

优酷链接：

隐马尔可夫模型：

http://v.youku.com/v_show/id_XMTM1MzQ1NDk5Ng

卡尔曼滤波：

 http://v.youku.com/v_show/id_XMTM2ODU1MzMzMg

 

3.高级概率模型

• 贝叶斯非参数（BNP）及其推导基础

简介： 

Dircihlet Process（DP），中国餐厅流程见解。

文件：

non_parametrics.pdf ，dirichlet_process.m， chinese_restaurant_process.ipynb

优酷链接：

http://v.youku.com/v_show/id_XMTM3NDY0MDkxNg

 

• 贝叶斯非参数（BNP）扩展

简介：

分层DP，HDP-HMM，印度自助餐过程（IBP）。

文件：non_parametrics_extensions.pdf

 

• 行列式点过程

简介：

解释DPP的边际分布，L-ensemble，其抽样策略，我们在时变DPP中的工作细节。

文件：dpp.pdf

 

新闻早知道:2019年10月10日（星期四）农历己亥年九月十二

要闻 习近平在钓鱼台国宾馆会见巴基斯坦总理伊姆兰·汗。 习近平在钓鱼台国宾馆会见所罗门群岛总理索加瓦雷。 习近平将赴印度出席中印领导人第二次非正式会晤并对尼泊尔进行国事访问。 2019年中国北京世界园艺博览会圆满闭幕。李克强出席闭幕式。 国务院印发

4.推导课件 

•  变分推导

简介：

解释变分贝叶斯非指数和指数族分布加上随机变分推导。

文件：

variational.pdf ，vbnormalgamma.m

优酷链接：

http://v.youku.com/v_show/id_XMTM1Njc5NzkxNg

• 随机矩阵

简介：

随机矩阵，幂方法收敛定理，详细平衡和PageRank算法。

文件：stochastic_matrices.pdf

• 蒙特卡洛简介

简介：

逆CDF，消除，自适应消除，重要性采样。

文件：

introduction_monte_carlo.pdf ，adaptiverejectionsampling.m，hybrid_gmm.m

  

• 马尔可夫链蒙特卡洛

简介： 

M-H, Gibbs, SliceSampling,Elliptical Slice sampling, Swendesen-Wang, demonstrate collapsed GibbsusingLDA 

文件：

markov_chain_monte_carlo.pdf，ldagibbsexample.m ，test_autocorrelation.m， gibbs.m

优酷链接：

http://v.youku.com/v_show/id_XMTM1NjAyNDYyNA

 

• 粒子滤波器（序列蒙特卡洛）

简介： 

连续蒙特卡罗方法，冷凝滤波算法，辅助粒子滤波器。

文件：particle_filter.pdf

优酷链接：

http://v.youku.com/v_show/id_XMTM3MTE1Mjk2OA

 

二、深度学习

• 优化方法

简介：

常用的优化方法。不仅限于深度学习。

文件：optimization.pdf

 

• 神经网络

简介：

基本神经网络和多层感知器。

文件：neural_networks.pdf

• 卷积神经网络：从基础到最近的研究

简介：

卷积神经网络的详细解释，各种损失函数，中心损失函数，对比损失函数，残差网络，YOLO，SSD。

文件：cnn_beyond.pdf

 

• 词表示和近似Softmax

简介：

Word2Vec, skip-gram, GloVe, 噪声对比估计，负采样，Gumbel-max技巧。

文件：

word_vector.pdf

 

• 深度自然语言处理

简介：

RNN，LSTM，具有注意力机制的Seq2Seq，集束搜索，RNN，LSTM，具有注意力机制的Seq2Seq，集束搜索，Attention is all you need，卷积Seq2Seq，指针网络。

文件：deep_nlp.pdf

           

• 深度增强学习

简介：

强化学习的基础知识，马尔可夫决策过程，贝尔曼方程，并进入深度Q学习（正在建设中）

文件：dqn.pdf

 

• 受限玻尔兹曼机

简介：

受限玻尔兹曼机（RBM）的基础知识

文件：rbm_gan.pdf

三、数据科学

• 30分钟介绍人工智能和机器学习

简介：

用30分钟来介绍人工智能和机器学习。 （感谢徐亦达老师的博士生常皓东进行协助编辑）

文件：30_min_AI.pptx

 

• 回归方法

简介：

分类：Logistic回归和Softmax分类；回归：线性回归，多项式回归，混合效果模型。

文件：regression.pdf， costFunction.m，soft_max.m

  

• 推荐系统

简介：

协同过滤，分解机，非负矩阵分解，乘法更新规则。

文件：recommendation.pdf

 

• 降维

简介：

典型的PCA和 t-SNE。

文件：dimension_reduction.pdf

 

• 数据分析简介和相关的jupyternotebook

简介：

机器学习和数据科学的三个视角。 监督与无监督学习，分类准确性。

文件：AI_and_machine_learning.pdf

 

四、致谢

特别感谢徐亦达老师的博士生团队的协助一起校队课件，还有讨论以及对课件提出了许多非常宝贵的意见。其中(不完全的)包括了，常皓东，姜帅，黄皖鸣，邓辰，梁轩。特别感谢黄海广博士协助徐亦达老师将课件目录翻译成中文。

如果你想加入徐亦达老师的机器学习博士生团队或有兴趣实习, 请通过电子邮件：YiDa.Xu@uts.edu.au与徐亦达老师联系。

参考

徐亦达老师课件的github：

https://github.com/roboticcam/machine-learning-notes

完整讲义㊦傤请回复“徐亦达”查看 

往期精彩回顾

公众号后台回复关键词学习

回复 免费                获取免费课程

回复 →y値播→y                获取系列→y値播→y课

回复 Python           1小时破冰入门Python

回复 人工智能         从零入门人工智能

回复 深度学习         手把手教你用Python深度学习

回复 机器学习         小白学数据挖掘与机器学习

回复 贝叶斯算法      贝叶斯与新闻分类实战

回复 数据分析师      数据分析师八大能力培养

回复 自然语言处理  自然语言处理之AI深度学习