@lucidrains
Working with Attention. It's all we need
Você recebeu 130,217 estrelas em seus repositórios públicos.
Seus projetos foram bifurcados 13,385 vezes.
Você fez 2,000 contribuições no último ano.
Você programa em 2 linguagens diferentes.
Você tem 55,967 seguidores no GitHub.
Sua conta GitHub existe há 16 anos.
Teste como suas métricas afetariam seu GitScore
Implementation of RLHF (Reinforcement Learning with Human Feedback) on top of the PaLM architecture. Basically ChatGPT but with PaLM
Implementation of Rotary Embeddings, from the Roformer paper, in Pytorch
Implementation of a single layer of the MMDiT, proposed in Stable Diffusion 3, in Pytorch
Implementation of a transformer for reinforcement learning using `x-transformers`
Causal Attention with Lookahead Keys
Implementation of the model architecture for SRT-H