我们在多项式拟合问题中只考虑了 $x$ 是一维变量的结果,但事实上 $x$ 的维度可能远远不止一维,考虑一个 $D$ 维的输入 $\mathbf x$ 并且选择阶数 $M = 3$,那么我们有
$$ y(\mathbf{x, w}) = w_0 + \sum_{i=1}^D w_ix_i + \sum_{i=1}^D \sum_{j=1}^D w_{ij} x_ix_j + \sum_{i=1}^D \sum_{j=1}^D \sum_{k=1}^D w_{ij} x_ix_jw_k $$可以看到,随着 $D$ 的增大,独立参数的个数也增大到 $D^3$ 的量级。对于 $M$ 阶的多项式,系数的量级将变成 $D^M$。
也就是说,随着 $D$ 的增大,独立参数的数目呈幂数增长。