给定一个输入空间和输出空间，我们想要通过输入空间中的变量预测输出空间中的变量，这就是ML和统计学中的回归任务。让我们考察一个简单的例子，输入空间、输出空间均连续一维的情况，即（单变量单值的）函数 f 的拟合。

我们假设数据按照如下的规律生成：y = f(x) + err, err ~ N(0, sigma)，即背后真实的分布…