The calculus for neural networks
So, finished the part 4 regarding Karpathy lecture. Os exercícios consistiram de entender o backward pass. E isso envolveu cálculo. But, observei que consegue-se perceber o que precisa pelos shapes. Além disso, o Karpathy considera a perspectiva de usar um exemplo menor para conseguir compreender qual seria a derivada. Great.
Desse modo, a rede foi construída e os mecanismos foram implementados.
Tem o desafio de ser cálculo em matrizes, mas com o básico de cálculo, o Karpathy mesmo relata, que dá para implementar e compreender.
Really great learning.