大模型推理优化系统工程师

岗位描述：参与分布式大模型推理框架的开发与优化，提升推理性能与吞吐量；针对不同场景的 LLM 请求特点，优化 GPU 计算流程，打造业内领先的高效 LLM 推理引擎；调研并引入前沿机器学习系统技术，推动系统架构的持续优化升级；与算法团队深度合作，探索算法-系统协同优化方案，提升整体推理效率。团队技术氛围浓厚，提供充足的 GPU 计算资源和具有挑战性的技术场景，可深入参与大模型推理优化及前沿技术研究。 岗位要求：计算机、电子、自动化、软件等相关专业；具备操作系统、计算机体系结构等基础知识，对底层性能优化有浓厚兴趣；熟悉 SGLang、vLLM、Megatron 等框架，有开源项目贡献或相关经验者优先；熟悉 CUDA 编程和 GPU 性能优化，有 Triton、CUTLASS 等开发经验者优先；具备良好的沟通能力和团队协作精神。