多模态训练加速研发工程师(基础架构)
负责大规模分布式训练与推理基础架构的设计、开发和优化,支持千卡级大模型训练;针对多模态数据特点,通过分布式并行策略和通信优化技术支持长序列训练,解决训练效率瓶颈;构建和维护海量多模态数据的流式处理管道,支撑大规模预训练阶段的数据高速加载;负责多模态推理引擎的功能开发和性能优化,包括吞吐优化、时延优化和性能瓶颈排查。要求熟悉Transformer模型架构,精通Megatron-LM、DeepSpeed、Colossal-AI等训练框架之一...
第 58 页,共 69 页
负责大规模分布式训练与推理基础架构的设计、开发和优化,支持千卡级大模型训练;针对多模态数据特点,通过分布式并行策略和通信优化技术支持长序列训练,解决训练效率瓶颈;构建和维护海量多模态数据的流式处理管道,支撑大规模预训练阶段的数据高速加载;负责多模态推理引擎的功能开发和性能优化,包括吞吐优化、时延优化和性能瓶颈排查。要求熟悉Transformer模型架构,精通Megatron-LM、DeepSpeed、Colossal-AI等训练框架之一...
负责多模态大模型预训练、监督微调(SFT)、对齐等各阶段的模型开发与训练,探索高效模型结构、多模态Scaling Law、数据配比和性能优化;参与多模态大模型的训练加速与高效部署,包括系统调优、硬件适配等;跟踪前沿多模态算法与应用研究,并推动多模态AI能力在产品中的落地。要求硕士及以上学历,3年以上算法开发经验、1年以上大模型相关经验,熟悉多模态大模型原理、PyTorch等深度学习框架、模型开发部署与微调,以及DeepSpeed、Meg...
负责多模态大模型在预训练、指令微调、偏好对齐等阶段的数据建设工作,包括数据采集、数据入库、数据清洗、数据观测、数据挖掘等环节;负责多模态数据的闭环验证,建立从数据构造、模型训练到性能评测的全链路闭环体系,确保数据有效提升模型基础能力;参与训练数据全生命周期管理体系建设,支撑多模态大模型场景下海量训练数据的高效读取,提升模型训练工程效率;跟进业界最新技术与进展,结合实际场景落地,持续提升数据质量并挖掘数据价值。要求具备扎实编码能力,熟悉...
负责多模态基础模型的强化学习相关算法工作,参与模型训练、调优和部署,确保算法有效性与效率;开展多模态大模型强化学习技术的前瞻性探索,包括离线强化学习、多轮强化学习等方向;改进多模态大模型强化学习分布式工程框架,实现更高效的模型训练。要求具备计算机科学、电子信息、人工智能、统计学等相关专业硕士及以上学历,具备扎实算法基础,熟悉机器学习与强化学习技术,精通 PyTorch、Transformers、verl 等主流框架,具备 RL 算法优化...
主导多模态大模型在预训练、SFT(指令微调)、RLHF(偏好对齐)等全阶段的数据体系建设,攻克海量多模态语料的智能采集、多维清洗、去重过滤、自动化标注与深度挖掘等关键问题;建立“数据合成与构造—模型训练—能力评测”的全链路闭环验证体系,通过数据消融与归因分析推动模型能力提升;参与设计并优化 PB 级多模态训练数据的全生命周期管理架构,提升海量数据吞吐与加载效率,支撑大规模分布式训练;持续跟踪并复现前沿技术成果,将数据端与多模态算法相关前...
围绕具身智能数据基础设施建设完整数据闭环,覆盖数据采集、清洗标注、增强合成、策略训练到部署验证;设计多源异构数据采集管线,对接遥操作、人手动捕、外骨骼、仿真等不同数据源,打通从原始传感器数据到可训练格式的全链路;构建数据处理与增强算法,包括视觉域适配、异常轨迹检测与清洗、多模态对齐;搭建具身数据平台,统一数据格式与版本管理、元数据索引、数据可视化回放及训练数据高性能加载;实现大规模仿真数据生成,包括分布式调度仿真环境、自动标注、轨迹过滤...
负责真机部署、数据、仿真及 Infra 相关平台工作;维护数据与评测体系,处理真机与仿真数据,进行质量验证与评测;收集和清洗预训练数据,完成商用或开源机械臂系统集成与真机评测,并支持 Teleop 数据采集与质量验证;在 Isaac Sim、MuJoCo 中搭建任务并生成仿真数据与基准;负责模型闭环工程,包括训练脚本、推理优化、部署稳定性、延迟与可靠性优化,搭建训练和评测环境,开展预训练、微调与效率优化;配合硬件与控制链路,确保输出动作...