書-深度學習的數學

 image

●柯西-施瓦茨不等式

○內積的座標表示

●向量的一般化

 

柯西-施瓦茨不等式

內積公式:    ab=|a||b|cosθ

根據我們的內積公式可以得出柯西-施瓦茨(ㄘˊ)不等式。

柯西-施瓦茨(ㄘˊ)不等式:     -|a||b|≤ab≤|a||b|

 

證明:

根據余弦函數的性質(余弦函數的極小值跟極大值是[-1,1]),對任意θ,有乘|a||b|,有

-|a||b|≤|a||b|cosθ≤|a||b|

image

image

 

根據內積來知道兩個向量的相似度。

image

內積的座標表示

image

imageimage

有些文獻會用上面兩個當作內積的定義。

二維:

image

三維:

image

 

 

求a、b向量的內積

image

向量的一般化

看了二維&三維空間的性質,雖說神經網路要處理數萬維的空間,但是二維跟三維空間的性質可以直接使用,向量被運用在梯度下降法中,我們先看如何把二維&三維空間中的向量公式用到n維空間中。

 

image

image

image

  

  

創作者介紹
創作者 讀書小天地 的頭像
讀書小天地

書籍分享天地

讀書小天地 發表在 痞客邦 留言(0) 人氣()