岗位描述
岗位描述:负责端侧(手机、驾舱、智能硬件)大模型的部署,包括但不限于框架开发、算子优化、硬件适配;负责端侧大模型的前沿优化技术调研与落地;参与模型、系统与硬件的协同优化与联合设计。 岗位要求:熟悉 Linux,熟悉 C/C++/Python,具有良好的编程风格;熟悉主流的 LLM、VLM 模型架构以及常用的 LLM 优化技术,例如 Continous-Batching、Speculative-Decoding、Quantization 等;熟悉 GAN、Diffusion、Flow-Matching 多种生成式技术与 DiT 等代表性模型架构;掌握语音核心技术(ASR、TTS)与模型架构(Whisper、Tacotron),具备端到端的工业级落地经验;熟悉至少一款主流的推理引擎框架,如 llama.cpp、MNN、vLLM、TensorRT;熟悉 OpenCL、CUDA 等并行编程,有异构系统开发经验;熟悉 QualComm NPU 开发流程。优先条件:有系统顶会(OSDI、NSDI、MLSys)一作者经历。