大模型训练引擎工程师
岗位描述:负责主流大模型训练框架在壁仞芯片平台上的适配、功能验证、问题排查与性能调优;支撑预训练、微调等核心训练链路建设,落地MoE、多模态、智能驾驶等业务场景;定位并解决精度、显存、通信、算子等训练问题,搭建自动化工程体系;搭建自动化体系,借助AI Agent赋能适配工作与训练生态。 岗位要求:熟悉PyTorch核心训练流程与分布式并行策略(DP、TP、PP、ZeRO、FSDP等);掌握Megatron、DeepSpeed等一种或多种...
第 5 页,共 214 页
岗位描述:负责主流大模型训练框架在壁仞芯片平台上的适配、功能验证、问题排查与性能调优;支撑预训练、微调等核心训练链路建设,落地MoE、多模态、智能驾驶等业务场景;定位并解决精度、显存、通信、算子等训练问题,搭建自动化工程体系;搭建自动化体系,借助AI Agent赋能适配工作与训练生态。 岗位要求:熟悉PyTorch核心训练流程与分布式并行策略(DP、TP、PP、ZeRO、FSDP等);掌握Megatron、DeepSpeed等一种或多种...
岗位描述:基于壁仞GPU软件栈,开发大模型和多模态大模型推理服务框架;围绕并行策略、GPU通信、算子融合、量化压缩等方向,持续优化大语言模型推理性能,降低模型推理延迟,提升线上模型服务吞吐。 岗位要求:硕士及以上学历,计算机、数学、软件工程、自动化、通信、微电子等相关专业,具有3年及以上相关工作经历;具备扎实编程能力,熟练使用C/C++或Python;熟悉大模型推理技术栈,有vLLM、SGLang、LMDeploy、TensorRT-L...
岗位描述:基于壁仞GPU生态,实现大模型推理服务框架,进行特性覆盖和持续升级,包括vLLM、SGLang等主流方向;基于壁仞GPU生态,通过量化、算子融合、通信优化、并行策略、投机采样、PD分离等多种技术手段,持续提升大模型性能,提供高吞吐的线上服务能力。 岗位要求:硕士及以上学历,计算机、数学、软件工程、自动化、通信、微电子等相关专业,具有3年以上相关工作经历;熟悉深度学习算法,有vLLM、SGLang或TensorRT等推理引擎开发...
岗位描述:支持自研 GPU 在 AI 和大模型场景下的编译优化与性能提升;负责面向自研 GPU 的编译优化方案与算法设计和开发;负责制定并实施自研 GPU 计算核部分的基准性能评估与编译优化性能评估方案;参与未来自研 GPU 处理器指令集和微架构设计,演进编译器优化能力以支持新特性。 岗位要求:计算机软件或相关专业硕士及以上学历,精通 C/C++ 编程,熟悉计算机体系结构和编译原理;具备良好的沟通能力和代码习惯,熟悉 Linux 开发调...
岗位描述:设计、开发和调试支持多 GPU 的驱动程序和软件;与其他软件工程师共同完成驱动和支撑软件的设计与开发,提供对多 GPU(南向互联和北向互联)的支持;与软硬件工程师协调解决软硬件架构问题,为下一代芯片提供高性能、低延迟、高可靠性的大集群软件解决方案;协助客户平台的多 GPU 方案落地,并根据用户需求完善整体平台端到端软件方案;与其他软硬件工程师协同,解决多 GPU 平台中的问题并优化系统性能。 岗位要求:具备交换机、路由器、大集...
岗位描述:针对自研架构设计和优化 Kernel 综合器,支持硬件架构验证及高性能算子交付;负责核心基础设施的维护与演进,包括多层 IR 及 Lower 过程、编程范式抽象、面向 Tensor 的抽象、ISA 层抽象;负责关键 Pass 的设计与优化,如生命周期/活跃性分析、资源分配、Peephole 优化;建设与维护回归体系,包括单元测试、集成测试、CI 稳定性、代码规范与静态检查;与硬件团队协同设计,反馈自研指令集在性能与易用性方面的...
岗位描述:负责 AI 编译器的设计与实现;开展 AI 模型性能分析与优化,定位性能瓶颈并改进编译优化算法;解决 AI 模型的编译和部署问题;负责算子适配与调优;承担软件质量维护与功能扩展工作。 岗位要求:具备 XLA、MLIR、TVM、TRITON 等项目中的一个或多个实践经验;熟练使用 C/C++,熟悉常用数据结构和算法,具备良好的编程习惯和代码风格;具备深度学习算法相关知识;计算机、自动化、微电子等相关专业背景;以上要求至少满足两条...
岗位描述:在 Kimi 跨模态通用模型开发中,设计并构建高效的数据流转、训练和测试系统,通过合理的工程化与系统抽象显著加速研发过程;基于对深度学习的理解,发掘研发过程中沉淀出的共性模式,通过良好的抽象和设计构建便捷、鲁棒、可复用的 library 和 service。 岗位要求:计算机科学或相关领域本科及以上学位;对机器学习或大模型底层原理有扎实理解,具备大模型训练、计算机视觉或强化学习相关方向的工程经验;熟悉 Python、C++,具...
岗位描述:参与 Kimi 核心 Agent 方向研发,围绕 Agent 内核、任务执行、工具生态与工程基础设施,打造一体化产品体系;设计与开发 Agent 相关主线产品的关键特性,包括内核框架、业务逻辑和效果调优;建设稳定可靠的 Agent 工程基座,使复杂任务执行过程可控、可查、可复现;关注业务数据与指标,围绕模型效果与用户体验持续优化;与模型、工具生态、前端、产品等团队协作,将优秀实践沉淀为可复用的框架能力;引入 AI 改善研发工作...
岗位描述:负责公司机器学习相关的大规模训练数据处理工作。 岗位要求:具备数据处理、清洗、标注相关经验,或在推荐系统、搜索、广告排序等项目中有开发经验并承担重要角色。熟练使用 Python,熟练使用 Spark 或 Ray,使用过 TensorFlow 或 PyTorch 之一。熟悉分布式系统,能够设计大规模离线分布式系统,并具备大规模存储经验。熟悉 NLP 或 CV,有实际训练 NLP 或 CV 模型并上线的经验。具备良好的思维能力、独...