Page 4 - vllbc02's blogs

LLM 训练技巧

MTP（Multi-Token Prediction）

LLM LLM Architecture Model

Nemotron 3（Nano / Super）

LLM 位置编码

NoPE（No Positional Embedding）

LLM LLM Architecture Model

OLMo 2 & Olmo 3

LLM 位置编码

Partial RoPE

LLM 训练稳定性

Post-Norm vs Pre-Norm

LLM 训练稳定性

QK-Norm

LLM LLM Architecture Model

Qwen3 系列（Qwen3 / Qwen3-Next / Coder-Next）

LLM LLM Architecture Model

SmolLM3

LLM LLM Architecture Model

Xiaomi MiMo-V2-Flash