close

書-深度學習的數學

 

●鏈法則

○複合函數

●單變數函數的鏈式法則

 

 

 

法則

 

用於複雜的函數求導,有助於理解反像誤差傳播法。

 

複合函數

 

函數

y=f(u),u表示為u=g(x)y作為x的函數可以表示為y=f(g(x))的嵌套結構(ux為多變數)

 

f(g(x))f(u)g(x)複合函數。

 

image

 

image

 

例:

多輸入image,將a(x)作為激活函數,y為神經元輸出。

 

image

 

b:為偏

w:為各個權重

 

image

 

單變數函數的鏈式法則

 

 

單變數y=f(u),當u表示u=g(x)時,複合函數y=f(g(x))的導函數表示如下:

 

image

這公稱為單變量函數的複合函數求導公式,也稱鏈式法則。

 

image

 

image

 

例:

yu的函數,uv的函數,vx的函數。

 

image

 

image

 

 

例:

image

 

image

 

 

image

image

image

 

image

arrow
arrow
    創作者介紹
    創作者 讀書小天地 的頭像
    讀書小天地

    書籍分享天地

    讀書小天地 發表在 痞客邦 留言(0) 人氣()