大模型推理优化系统工程师
岗位描述:参与分布式大模型推理框架的开发与优化,提升推理性能与吞吐量;针对不同场景的 LLM 请求特点,优化 GPU 计算流程,打造业内领先的高效 LLM 推理引擎;调研并引入前沿机器学习系统技术,推动系统架构的持续优化升级;与算法团队深度合作,探索算法-系统协同优化方案,提升整体推理效率。团队技术氛围浓厚,提供充足的 GPU 计算资源和具有挑战性的技术场景,可深入参与大模型推理优化及前沿技术研究。 岗位要求:计算机、电子、自动化、软件...
第 5 页,共 213 页
岗位描述:参与分布式大模型推理框架的开发与优化,提升推理性能与吞吐量;针对不同场景的 LLM 请求特点,优化 GPU 计算流程,打造业内领先的高效 LLM 推理引擎;调研并引入前沿机器学习系统技术,推动系统架构的持续优化升级;与算法团队深度合作,探索算法-系统协同优化方案,提升整体推理效率。团队技术氛围浓厚,提供充足的 GPU 计算资源和具有挑战性的技术场景,可深入参与大模型推理优化及前沿技术研究。 岗位要求:计算机、电子、自动化、软件...
岗位描述:负责大模型 RL 训练与推理系统建设,持续提升训练效率、系统稳定性和工程迭代速度。工作内容覆盖分布式训练、推理链路、性能优化、稳定性治理,以及 Agent RL 相关能力建设。具体包括:负责 RL 训练与推理基础设施的设计、开发与优化;建设分布式训练、任务调度、权重同步、热更新等核心链路;持续优化系统吞吐、时延、GPU 利用率、训练效率等指标;建设稳定性与可观测能力,定位并解决 OOM、超时、通信瓶颈、一致性问题;参与 Age...
岗位描述:负责模型架构(Model Architecture)的研发、优化和创新,包括Attention、MoE等架构改进,以及全新架构探索;负责下一代预训练范式的研究和创新,推动相关技术的规模化发展;从算法角度推动大模型训练和推理的低成本化,包括优化器改进、量化、投机采样等技术;研究通用智能的本质,设计并迭代通用智能的评估和观测方法,以指导下一代范式演进;负责提升大语言基座模型的代码、数学、Reasoning能力,系统性增强模型能力,...
岗位描述:深入探索LLM在编程场景中的应用,参与Coding Agent开发,并探索顶尖AI Coding模型与框架的能力边界;持续探索创新的评测方法,提出更优的Benchmark,定义模型能力,对大模型应用效果进行持续调优,通过数据分析与算法改进提升应用性能和体验;跟踪数据变更对模型效果的影响,与算法团队配合进行数据实验,形成可量化的反馈机制;构建大规模高质量数据,包括数据建设、数据抓取与解析、数据合成等;关注行业动态与技术趋势,及时...
岗位描述:深入个人终端、智能座舱、智慧零售等业务场景,设计高效可行的多模态大模型解决方案,推动AI价值转化;负责多模态大模型的训练与调优,通过建立科学的评测体系,快速迭代模型性能,以满足业务需求;持续关注行业前沿技术,探索新算法、新模型,并将其应用到实际业务中,推动产品创新,涵盖图像多模态大模型、语音多模态大模型、图像生成等领域。 岗位要求:在多模态大模型训练和应用等领域有实际开发和从业经验者优先;具备良好的计算机和数学理论基础,熟练掌...
岗位描述:负责 Step Platform 的商业化产品规划,围绕开发者商业增长目标,设计并推动市场增长、生态合作、直销协同等多路径增长方案,提升注册、活跃、转化、续费及收入规模;推动开放平台基础能力建设,包括文档、SDK、接入流程、开发者控制台、调试工具、示例工程等,提升开发者接入效率与付费转化效率;协同研发、设计、运营、销售、生态、财务等团队,推动权限、计费、资源调度等中台能力建设,形成完整商业化闭环;建立并持续优化商业化分析体系,...
岗位描述:参与沙盒化基础设施平台的设计、研发和持续演进,支撑多类业务场景下的安全运行环境需求;负责运行时、资源管理、任务调度、存储访问、网络隔离等平台核心能力建设;参与容器、轻量虚拟化、云原生存储等相关技术方案的调研、选型、工程实现和优化;持续提升平台在性能、稳定性、弹性、安全性和资源利用率方面的表现;参与大规模场景下的系统问题定位、性能分析、容量规划和成本优化;与业务、安全、基础架构等团队协作,推动基础设施能力在生产环境中稳定落地。...
岗位描述:负责模型与数据相关项目的全流程管理与推进,协同算法、数据、工程团队,在需求不明确、节奏快速变化的环境中保障项目高质量交付,并推动数据驱动的模型效果优化。负责需求收集、拆解与优先级管理,制定项目计划并推动落地;跟进项目进度,识别并解决风险、依赖与资源冲突;协调算法、数据、工程团队,保障高效沟通与决策;参与数据标注项目设计,包括标注方案、规范、流程以及数据集构建中的采集、清洗、标注、质检;管理内部及外包标注资源,控制质量、成本与产...
岗位描述:聚焦提升智能体在通用工作场景中的规划、反思与工具使用能力,增强Working Agent在办公自动化、知识管理、项目协作、数据分析等实际场景中的可用性。探索基于人机协同的高质量工作流数据挖掘与合成,构建多步骤、跨应用、长周期的复杂工作任务数据,以提升智能体规划与多工具编排能力;构建Working Agent基础能力,包括任务分解与规划、多工具协同调用、上下文管理与信息整合、自主纠错与迭代执行;构建多模态智能体,融合文本、图像、...
岗位描述:参与公司容器云平台核心基础设施研发,负责 Kubernetes 平台核心能力建设,包括调度、资源管理、控制面组件扩展及平台能力增强。参与 Kubernetes 控制面关键组件的设计与开发,包括 Scheduler 调度策略扩展与优化、Controller/Operator 设计与开发、API Server/Admission/CRD 等控制面能力扩展。参与容器云平台核心基础设施建设,包括容器运行时与资源管理、多租户隔离与权限控...