kzk0829’s blog

機械学習の学習のアウトプット+技術的な事+ポエム

勾配降下法が難しい

なんで?

文系卒で数学にまともに17から7年間触れてない人間にいきなり勾配降下法を用いた線形回帰分析は難しかった pythonはある程度書けるから聞いたことをコードに落とし込むことはできても、その中を理解するのが難しい

例えば以下

f:id:kzk0829:20190825152959p:plain

これは残差の二乗和をalpha, betaごとにプロットしたものだが、この三次元グラフが出てきた瞬間に頭の中は?でいっぱいだ alphaにおける勾配降下とbetaにおける勾配降下という概念がよく分からない 二次元までだとすんなり対応できて概念も微分もわかる。 ただ、三次元だとそこから谷に向かって進むということはどういうことだ? 輪切りにして考えればいいのか? 第二回の授業はそこの説明が欲しかったなあ、という印象

とはいえ、他力本願ではあかんので数学の復習をしなければなと痛感した

第二回から今日に授業が難しくなったので、足腰しっかりしようと思った週末。 来週はアルゴリズムだから楽しみ。

ただの感想日記みたいになっちゃいました。。