1、overfitting就是过拟合巳呀屋饔, 其直观的表现如下图所示,随着训练过程的进行,模型复杂度增加,在training data上的error渐渐减小,但是在验证集上的error却反而渐渐增大——因为训练出来的网络过拟合了训练集, 对训练集外的数据却不work, 这称之为泛化(generalization)性能不好。
2、开始从简单的model入手
3、进行Data clearning/pruning
4、然后加入更多的资料
5、接着进行Regularization正则化
6、最后进行Validation验证就可以完成了。