吳恩達機器學習筆記10-梯度下降法實踐1-特徵縮放

摘要： 在我們面對多維特徵問題的時候，我們要保證這些特徵都具有相近的尺度，這將幫助梯 度下降演算法更快地收斂。 以房價問題為例，假設我們使用兩個特徵，房屋的尺寸和房間的數量，尺寸的值為 0- 2000 平方英尺，而房間數量的值則是0-5，以兩個引數分別為橫縱座標，繪製代價函式的等 高線...

在我們面對多維特徵問題的時候，我們要保證這些特徵都具有相近的尺度，這將幫助梯

度下降演算法更快地收斂。

以房價問題為例，假設我們使用兩個特徵，房屋的尺寸和房間的數量，尺寸的值為 0-

2000 平方英尺，而房間數量的值則是0-5，以兩個引數分別為橫縱座標，繪製代價函式的等

高線圖能，看出影象會顯得很扁，梯度下降演算法需要非常多次的迭代才能收斂。

解決的方法是嘗試將所有特徵的尺度都儘量縮放到-1 到1 之間。如圖：

最簡單的方法是令：

，其中 是平均值， 是標準差(或者樣本最大值減去最小值）。