独角兽

多模态大模型系统研发实习生

智谱AI

地点待补充人工智能社会招聘

岗位描述

参与下一代多模态大模型(VLM)的系统研发,覆盖从训练到推理部署的完整技术链路;参与基于 PyTorch、Megatron 等框架的大规模分布式训练系统研发与优化,理解并优化 TP、PP、CP、SP、EP、MoE 等并行训练策略,并参与多模态数据 pipeline(图像、视频、文本)的构建与优化;参与设计和实现基于 vLLM、SGLang 等框架的高性能推理系统,探索 KV Cache、batching、scheduling、多模态部署、量化推理及性能优化;参与 RLHF、RLAIF、GRPO 等模型对齐算法的工程实现,构建训推分离的 RL 训练系统,并优化 rollout、sampling、reward、trainer 等核心模块;参与大模型系统工程研发,进行 CUDA、NCCL、GPU 计算性能优化,通过 profiling 与性能分析定位瓶颈,提升训练与推理系统的稳定性和性能。