SDIM学术讲座
大数据视角下的
高斯过程模型及其应用
11月16日，系统设计与智能制造学院邀请刘海涛副教授针对高斯过程模型这一方向，结合大数据视角，开展了一场面向全校师生的讲座。高斯过程（GaussianProcesses）是概率论和数理统计中随机过程的一种，是多元高斯分布的扩展，被应用于机器学习、信号处理等领域。与传统的机械学习模型不同，高斯过程模型从统计视角出发，今天的讲座从高斯过程回归、分类等基础知识角度出发，深入到深度高斯过程、可调高斯过程以及高斯过程的其他应用等内容。
高斯模型的一个主要缺点是计算复杂度高，无法高效处理大规模训练数据，这严重限制了其在大数据时代的应用。近十几年的时间，研究者针对高斯过程模型，在大数据情况下，就如何降低复杂度进行了广泛的研究。全局近似框架中一个典型的过程模型就是稀疏近似，也就是低秩近似，该近似框架能在理论上保证收敛。为了进一步降低VFE的模型复杂度，刘教授提出可以将变分布保留，从而得到一种具有分解形式的ELBO。同时，刘教授指出了另一种策略是局部策略，核心思想是分而治之，这也就是我们常说的聚合高斯过程。也就是说，将大量的数据分成小块，这样复杂度就降低了。聚合复杂模型就是从这个角度出发。首先，将训练数据分割为几个子数据集，然后训练子数据级的局部专家模型。当数据趋于无穷时，理论分析表明，常用聚合策略无法提供一致性预测。因此，刘教授又为大家介绍了一种泛化RBCM模型，这一模型的有点在于简单易用，同时预测具有理论上的一致性。
讲座的最后，刘教授还为同学们介绍了深度潜变量核学习的相关知识，其构造基于潜变量的核学习模型，实现潜空间约束表征和统一的模型概率表示，避免过拟合。同时，突破高斯假设，并基于随机微分方程进一步提高度概率潜空间的表达能力。刘教授的讲座引起了在场老师和同学们的广泛兴趣，很多同学都纷纷提出了自己的问题，刘教授和在场的同学们进行了热烈的讨论。
主讲人简介
刘海涛副教授、博导
年至年在新加坡南洋理工大学Rolls-Royce
NTUCorpLab担任ResearchFellow。近年来的研究方向主要围绕机器学习特别是贝叶斯统计学习中的关键问题展开，服务于动力机械（如航空发动机等）的数字化、智能化设计分析。相关研究成果在英国罗-罗公司航发智能设计系统、沈阳所航发关键部件优化设计平台、国产CAP核主泵过流部件形性协同设计、大连机车厂某电力机车冷却风扇设计等得到应用。END
联系我们
邮箱：sdim
sustech.edu.cn