Categories
8 个页面
Infra
从 GPT-2 到 Kimi K3:大模型架构如何演进
flops分析
Activation checkpointing
CPU offloading
梯度累计
remove_padding
transformer参数量分析
显存占用计算