AI Agent系统工程师
设计并实现基于大语言模型(LLM)的多模态Agent系统架构,支持多轮对话、工具调用、任务规划与执行;集成外部工具、API和Agent Skills(如搜索、数据库、代码执行等),扩展Agent能力边界;设计并实现Agent行为监控、效果评估与对齐机制,保障系统输出的稳定性、安全性与可控性;优化Agent系统的推理性能与并发处理能力,通过缓存、批处理、模型压缩与量化等手段提升效率并降低成本;与算法训练团队协作,系统化提升Agent成功率...
第 202 页,共 268 页
设计并实现基于大语言模型(LLM)的多模态Agent系统架构,支持多轮对话、工具调用、任务规划与执行;集成外部工具、API和Agent Skills(如搜索、数据库、代码执行等),扩展Agent能力边界;设计并实现Agent行为监控、效果评估与对齐机制,保障系统输出的稳定性、安全性与可控性;优化Agent系统的推理性能与并发处理能力,通过缓存、批处理、模型压缩与量化等手段提升效率并降低成本;与算法训练团队协作,系统化提升Agent成功率...
参与公司多芯片推理平台搭建;为各业务场景提供技术支持,推动同构融合计算技术在实际产品中的应用落地;与硬件、算法、方案团队紧密协作,共同解决技术难题,持续优化产品性能与效率。具体负责基于OpenMPI并结合公司芯片特点优化高性能通信库;负责在多die互联芯片平台上实现高效AI推理;基于对并行计算原理的深刻理解,参与AI CPU硬件架构升级,提升多芯片推理性能。要求具备计算机、电子工程及相关专业本科及以上学历,熟悉C/C++,熟悉CPU、G...
参与公司AI CPU(同构融合计算)芯片在计算领域的前沿研发,涵盖算子和框架的设计与开发;为各业务场景提供技术支持,推动同构融合计算技术在实际产品中的应用落地;与硬件、算法、方案团队紧密协作,共同解决技术难题,持续优化产品性能与效率。具体负责使用RISC-V指令集及AI指令集对相关算子库进行优化;基于对硬件指令、算子和模型的理解,优化模型精简算法,包括模型量化、模型剪枝等;基于对并行计算原理的深刻理解,参与AI CPU硬件架构升级。要求...
负责将亿级至十亿级参数的大模型(LLM、VLM、Audio LM)部署到终端芯片平台,并进行极致性能与能效优化,确保模型在资源受限环境下仍能提供流畅稳定的智能服务。主导vLLM、Ollama等框架在ARM CPU、NPU、GPU等异构平台上的移植、适配与深度优化,重点攻克注意力机制、KV Cache管理、解码策略在内存受限场景下的高效实现;针对终端特性优化或自研高性能、低内存占用的推理运行时,方向包括算子融合、计算图优化、静态内存规划、...
参与公司模型微调工具在深度学习领域的前沿研发,包括数据准备、模型微调和模型评测;为公司各业务场景提供技术支持,推动垂直领域模型在实际产品中的应用和落地;与硬件、算法、方案团队紧密合作,共同解决技术难题,持续优化产品性能。负责构建完整的数据准备流程并研发自动化工具;基于Qwen、Llama等模型开展领域微调,设计LoRA、P-Tuning方案提升模型在特定领域的能力;构建科学严谨的算法评测体系,用于评测模型在垂直领域的能力。
深入理解多模态感知大模型的计算特性与前沿演进,与芯片架构师、编译器工程师紧密协作,主导从算法模型到芯片高效部署的全栈优化,确保芯片在目标场景下达到领先的能效比与性能。分析主流及前沿多模态感知大模型的计算图、算子构成、数据流与内存访问模式,识别计算与内存瓶颈,提出面向芯片硬件特性的算法级优化方案,如算子融合、图优化、稀疏化、低精度量化、动态计算。主导多模态大模型在自研AI芯片上的端到端部署、性能分析与调优,开发和优化针对芯片特性的核心算子...
1. 深入理解业务战略,协助制定并实施人力资源规划,参与业务决策讨论,提供组织架构设计与人员配置建议;2. 主导关键技术岗位招聘策略制定与实施,优化招聘流程,拓展招聘渠道,提升招聘质量与效率;3. 设计适配科技团队特性的绩效管理体系,推动绩效结果在薪酬、晋升与发展中的应用;4. 识别关键人才与高潜员工,建立人才梯队与继任计划,设计并实施技术人才发展路径、专业培训与领导力发展项目;5. 推动员工关系与文化建设相关工作;6. 诊断组织效能问...
1. 负责Top level floorplan、电源网络设计、partition划分、时钟树规划、IO分配及function ECO;2. 制定后端signoff规范、策略与checklist,覆盖STA、EM/IR、PV、FM、UPF、SDC等关键维度;3. 主导先进工艺节点下RTL2GDS流程开发与优化,推动流程自动化,提升中后端流程效率和稳定性;4. 与关键IP及前端设计团队合作,进行PPA深度优化,探索优化手段与方法空间,制定...