大模型推理框架开发工程师
岗位描述:基于壁仞GPU软件栈,开发大模型和多模态大模型推理服务框架;围绕并行策略、GPU通信、算子融合、量化压缩等方向,持续优化大语言模型推理性能,降低模型推理延迟,提升线上模型服务吞吐。 岗位要求:硕士及以上学历,计算机、数学、软件工程、自动化、通信、微电子等相关专业,具有3年及以上相关工作经历;具备扎实编程能力,熟练使用C/C++或Python;熟悉大模型推理技术栈,有vLLM、SGLang、LMDeploy、TensorRT-L...
第 2 页,共 70 页
岗位描述:基于壁仞GPU软件栈,开发大模型和多模态大模型推理服务框架;围绕并行策略、GPU通信、算子融合、量化压缩等方向,持续优化大语言模型推理性能,降低模型推理延迟,提升线上模型服务吞吐。 岗位要求:硕士及以上学历,计算机、数学、软件工程、自动化、通信、微电子等相关专业,具有3年及以上相关工作经历;具备扎实编程能力,熟练使用C/C++或Python;熟悉大模型推理技术栈,有vLLM、SGLang、LMDeploy、TensorRT-L...
岗位描述:在 Kimi 跨模态通用模型开发中,设计并构建高效的数据流转、训练和测试系统,通过合理的工程化与系统抽象显著加速研发过程;基于对深度学习的理解,发掘研发过程中沉淀出的共性模式,通过良好的抽象和设计构建便捷、鲁棒、可复用的 library 和 service。 岗位要求:计算机科学或相关领域本科及以上学位;对机器学习或大模型底层原理有扎实理解,具备大模型训练、计算机视觉或强化学习相关方向的工程经验;熟悉 Python、C++,具...
岗位描述:负责公司机器学习相关的大规模训练数据处理工作。 岗位要求:具备数据处理、清洗、标注相关经验,或在推荐系统、搜索、广告排序等项目中有开发经验并承担重要角色。熟练使用 Python,熟练使用 Spark 或 Ray,使用过 TensorFlow 或 PyTorch 之一。熟悉分布式系统,能够设计大规模离线分布式系统,并具备大规模存储经验。熟悉 NLP 或 CV,有实际训练 NLP 或 CV 模型并上线的经验。具备良好的思维能力、独...
岗位描述:面向大模型时代打造极致数据底座,通过软硬协同的底层突破,将存储能力转化为影响 AI 成本与体验的核心竞争力;研发面向大模型推理服务的高性能 KV Cache 存储系统,解决上下文长度持续增长和推理并发请求增加带来的成本与性能问题;深度配合推理业务,在存储架构和推理业务之间寻找最佳协同设计,持续优化并支撑模型推理对存储的需求;深度应用各类高性能技术,挑战硬件物理性能极限。 岗位要求:具备扎实的 C++、Rust 或 Go 编程能...
岗位描述:设计并维护支撑大模型训练与推理的 Kubernetes 平台,负责集群生命周期管理、节点治理、网络/存储 CSI 插件及自动化运维体系;深度优化容器镜像分发,将千节点集群的 Pod 启动时间压缩到秒级;研发平台化工具链(CLI/SDK/Web Console),覆盖实验管理、模型管理、数据集编排、工作流流水线(MLOps),降低算法工程师的使用门槛;建设集群可观测性与成本治理体系,通过 eBPF/Prometheus 实现训练...
岗位描述:负责大规模 GPU 训练与推理集群的稳定性保障,支撑业务 7×24 高可用运行;负责 Kubernetes 及云原生周边系统(监控、日志、镜像分发、存储)的运维保障、平台化工具开发以及疑难问题排查解决;负责 GPU 节点硬件故障的自动化巡检、自愈体系与告警治理;参与 OnCall 值班,响应集群级突发事件,如网络拥塞、调度热点、训练任务失败等。 岗位要求:具备 3 年以上大规模分布式系统或云原生基础设施 SRE 经验,有 10...
岗位描述:负责 Kimi 业务线安全风险识别、评估与治理,从攻击者视角发现业务风险并推动闭环治理;围绕核心业务场景开展攻防验证和漏洞挖掘,识别安全风险并推动改进落地;跟踪外部高危漏洞、攻击技术和安全事件,结合业务实际开展影响分析、风险处置和复盘加固;参与业务安全专项建设,将安全能力嵌入研发流程,推动安全左移和风险前置发现;结合大模型业务形态识别相关安全风险,沉淀业务攻防方法和自动化工具,提升风险发现与治理效率。 岗位要求:具备 5 年以...
岗位描述:负责 Kubernetes 调度器及调度插件的深度定制,设计面向 AI 工作负载的调度策略,包括 GPU 拓扑感知、NUMA 亲和、网络亲和、RDMA 域感知;攻克超大规模集群(万卡级)调度性能瓶颈,优化调度吞吐、调度延迟与决策质量,支持每秒数百 Pod 的调度并发;构建异构资源调度体系,实现 GPU、CPU、内存、高速互联网络的多维资源建模与在离线混部,提升集群整体利用率;研发抢占、回填、gang-scheduling、co...
岗位描述:负责执行并协调临床监查和研究中心管理流程的不同环节,通过远程或现场访视评估方案和法规符合性,并管理所需文件。作为研究中心流程专家,确保试验按照已批准方案、ICH-GCP 指南、适用法规和 SOP 执行,以保障受试者权益、福祉和数据可靠性,并确保审计准备就绪、与研究中心建立良好协作关系。具体工作包括:采用基于风险的监查方法对研究者中心进行监查,运用根因分析、批判性思维和问题解决能力识别研究中心流程失效,并推动纠正/预防措施,使中...
岗位描述:作为国家审批专员,支持研究启动阶段工作,参与国家层面的申报管理、准备、审核与协调,并与全球申报策略保持一致;在指导下准备、审核并协调本地法规申报材料,包括卫生主管部门、伦理委员会及其他特殊国家/地区申报(如适用,包括基因治疗审批、病毒安全资料、进口许可等);在指导下为内部客户提供本地法规策略建议;提供项目特定的本地启动服务并协调相关工作;可能就申报相关事务与研究者联系;作为国家层面伦理或法规申报活动的关键联系人;在指导下与内部...