Bayesian estimation of the mean of a normal distribution


最近在學習lsd slam,在depth estimation中,需要用到bayesian estimation, 假設分布為: y n = N ( Θ , σ 2 ) . 其中 Θ 為待估計待量, σ 是已知的。在這種情況下,我們假設我們擁有一個conjugate prior p ( Θ ) e x p ( 1 2 σ 2 ( Θ μ 2 ) ) ,即 Θ N ( μ , σ 2 )
下一步,我們需要計算likelihood

p ( m e a s u r e y i ) = p ( " Y i = y i " ) = P ( y i Δ 2 Y i y i + Δ 2 | Θ )

上述表達式是對連續正態分布的計算公式,取一個很小的 Δ 計算出likelihood。對上式進行近似可得
1 2 π σ 2 e x p ( 1 2 δ 2 ( y i Θ ) 2 ) Δ

由bayes估計可知:
P ( Θ | D ) P ( D | T h e t a ) P ( Θ ) ,其中 P ( Θ | D ) i = 1 n e x p ( 1 2 σ 2 ( y i Θ ) 2 ) P ( Θ ) ,即
P ( Θ | D ) e x p ( i = 1 n 1 2 σ 2 ( y i Θ ) 2 ) P ( Θ ) ,對於這里,有一個小的tricky,即可將前面的表達式表達為: P ( Θ | D ) e x p ( i = 1 n 1 2 σ 2 ( y i y ¯ + y ¯ Θ ) 2 ) P ( Θ ) ,化簡得:
P ( Θ | D ) e x p ( 1 2 σ 2 i = 1 n ( ( y i y ¯ ) 2 + ( y ¯ Θ ) 2 + 2 ( y i y ¯ ) ( y ¯ Θ ) ) ) P ( Θ )

對於第三項sum之后為0,對於第一項化簡可得:
e x p ( 1 2 σ 2 ( n σ 2 + n ( y ¯ Θ ) 2 ) ) P ( Θ )

因此我們可得:
P ( Θ ) e x p ( n ( y ¯ Θ ) 2 2 σ 2 ( Θ μ 0 ) 2 2 σ 0 2 )

對上式取對數,並對 Θ 求偏導數,懶得敲公式了,直接給出所有最后的結果:
這里寫圖片描述


注意!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系我们删除。



 
粤ICP备14056181号  © 2014-2020 ITdaan.com