hf2megatron vllbc 收录于 Pai-Megatron Coding 2025-11-14 约 62 字 预计阅读 1 分钟 次阅读 需要： - rice vit的hf权重 - llm的hf权重 - 转换代码 对比项 Qwen2.5 ViT RiCE ViT Attention 类型 Window Attention Global Attention Class Token 无 使用 Class Token 激活函数 SiLU GeLU layer数 32 24 Please enable JavaScript to view the comments powered by Valine.
vllbc02