高斯过程回归_从高斯过程回顾线性回归

86 阅读 0 评论 57 点赞

我是靠谱客的博主难过大地，最近开发中收集的这篇文章主要介绍高斯过程回归_从高斯过程回顾线性回归，觉得挺不错的，现在分享给大家，希望可以做个参考。

概述

（纯是以写代学，哪里不清楚或不准确的地方还请大家指正）

在回归问题中，实际上是寻找到一个由输入x到输出y的函数映射。存在两种方法，第一种限定函数的类型（线性，二次，....），通过调整权重来进行拟合，这种方法的问题在于，需要决定使用什么类型的函数，如果选择的函数类型无法很好地拟合目标函数，仅通过调整权重无法得到一个很好的拟合（例如，使用线性函数去拟合一个正弦函数）。第二种考虑了任意的函数，选择与给定样本（X，Y）契合度更高（似然更大）的函数。该方法的问题在于需要考虑无限个函数，但这是无法做到的，由此需要借助标题中的高斯过程。

先给出Wikipedia上的高斯过程的定义，a Gaussian process is a stochastic process (a collection of random variables indexed by time or space) such that every finite collection of those random variables has a multivariate normal distribution. 重要的部分：任意数量的随机变量都构成一个高斯分布。