線性回歸之向量化 linear regression -- vectorization


線性回歸之向量化 linear regression -- vectorization



在線性回歸中,通過梯度下降不停的迭代以縮小代價函數的值,來擬合出一個效果較好的模型。其中:數據集為m個樣本,n個特征。
先看,在matlab / octave中,我們完全可以把它轉化為矩陣運算,而不用使用for循環去解決。因此:對於m個樣本n個特征的數據集來說:

因此:



所以,。這樣在matlab/octave中就可以很方便的利用矩陣運算來求解
再來看梯度下降,求解

注意:要同時更新。上述公式也可以向量化:,其中:            

再看矩陣里的元素又可以寫成矩陣相乘的形式:


因此  。然后設置學習率和迭代次數就可以求出最優參數

注意!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系我们删除。



 
粤ICP备14056181号  © 2014-2021 ITdaan.com