Karpathy lecture and problem solving
So, assisti um pouco da aula do Karpathy. Foi sobre como integrar o head de self-attention no modelo Bigram. Really simple, mas cuidadoso em termos da integração. Foi criada uma classe para o self-attention. Para o head do self-attention. Acho que seria bom considerarmos o artigo. So, thinking regarding this. Pensando na Bragat. To work in Bragat considering that.
Tem um outro recurso that está em consideração. Deep-ML. Really great set of problems, learning path and interview preparation. At the moment, considering at least one problem per day. The today's problem was the transpose of a matrix. Realizei de modo simples, first understanding no papel. Meu filho, aqui do lado, deu licença para eu pegar o papel. Rascunhei sobre o problem, entendi the pattern and proceeded with the implementation. Fui conversando com o Claude. That was great. Depois, busquei compreender outros modos de implementação. Implementei com for loop tradicional. Depois discuti com o Claude o com list comprehension e, por fim, o jeito simples com NumPy. Great.
Really great learning.