04-Transformer架构
11 份资料- FlashAttention与高效注意力 Markdown 20 KB 10.22
- FP8混合精度训练 Markdown 20 KB 10.22
- GPT模型类与config Markdown 24 KB 10.22
- MOC-Transformer Markdown 25 KB 10.22
- nanochat架构特化技巧 Markdown 22 KB 10.22
- 从第一性看nanochat的gpt.py Markdown 26 KB 10.22
- 位置编码与RoPE Markdown 27 KB 10.22
- 前馈层与激活函数 Markdown 25 KB 10.22
- 多头注意力 Markdown 27 KB 10.22
- 残差连接与LayerNorm Markdown 27 KB 10.22
- 自注意力机制 Markdown 34 KB 10.22
没有匹配的资料。