過擬合：爲得到一致假設而使假設變得過度複雜稱爲過擬合。比如：某種學習算法產生了一個過擬合的分類器，這個分類器能夠百分之百的正確分類樣本數據，即再拿樣本中的文檔來給它，它絕對不會分錯，但也就爲了能夠對樣本完全正確的分類，使得它的構造如此精細複雜，規則如此嚴格，以至於任何與樣本數據稍有不同的文檔它全都認爲不屬於這個類別。
