岗位描述
加入高通 AI Research，面向通用机器学习，尤其是深度学习、生成式 AI、LLM 和 LVM 方向开展算法研发，构建先进机器学习技术、业界领先解决方案以及模型优化工具，支持前沿网络在功耗、内存和算力受限的设备上高效运行。工作内容包括：开展 LLM、LVM 及其他前沿生成模型架构的算法研究与开发；研究复杂生成模型的高级量化算法，如 FlexRound、PrefixQuant、GPTQ、SpinQuant、AdaRound、CLE、FPTQuant、UPQ 以及自动混合精度和其他 INT/FP 量化算法；进行 LLM 训练与微调实验，包括预训练、SFT、RL、损失函数设计与优化及量化感知训练；研究高效推理算法，如 batching、KV cache、高效注意力、长上下文和 speculative decoding；推进模型压缩、结构搜索与神经搜索、基于优化的学习与基于学习的优化，以及生成式 AI 系统原型设计，并将方案应用于端侧和云侧系统创新。要求熟练使用 Python、PyTorch，具备机器学习算法或系统工程背景。