岗位描述
岗位描述:参与 GLM 系列多模态大模型,以及 CogVLM、CogView、CogVideo 系列多模态理解与生成模型的训练框架研发与优化。 岗位要求:要求统招硕士及以上学历,计算机或相关专业;熟练掌握 Pytorch,具有模型训练经验;熟悉 Transformer 结构,对 BERT、GPT、ViT、CLIP 等常见模型的训练方法有一定了解;具备模型迁移、精度对齐经验,能够在新框架中适配新的模型;了解常见的大模型训练优化方法,能够根据需求快速熟悉、掌握并进行修改;对 Megatron 框架有一定了解,能够借鉴其他框架以完善和优化现有框架。