大模型后训练研究
职位招考人数: 10
招考单位: - 北京三快科技有限公司
匹配度: 匹配详情>
职位信息
| 工作单位: |
北京三快科技有限公司 |
| 省份: |
北京 |
| 职位名称: |
大模型后训练研究 |
| 招录人数: |
10 |
报考条件
| 生源地要求: |
不限 |
| 其他条件: |
岗位职责:1.RL训练系统架构:设计和实现支持PPO及各类变种算法的高效训练框架;Data/EnvScaling,优化并发调度效率;2.在线采样&Rollout优化:优化RL场景(longcot、长尾分布、多轮交互)推理引擎效率,包括不限于量化、MTP、并行切分等;训推混部署、全流程异步训练,提升GPU利用率;3.训推一致性:训推引擎天然为了各自最大化效率存在精度差异,研究如何不断降低两者diff,包括不限于RoutingReplay、确定性计算等;4.训练稳定性:攻克RL训练特有的奖励Hacking、训练不稳定、KL爆炸等系统层面问题;设计细粒度的训练过程监控:reward曲线、KL散度、entropy变化实时可观测;优化PPOclip、advantagenormalization等关键超参的自动调节机制。5.长程任务训练优化:长程任务奖励稀疏、过程难精确控制,研究如何系统性的优化其中工程和算法挑战。任职要求:1.2026年1月至2027年12月毕业;了解PPO/GRPO/DPO算法原理,最好动手实现过;2.用过veRL/OpenRLHF/TRL等RL训练框架;3.有vLLM/SGLang/TensorRT-LLM推理加速经验(rollout优化必备);4.做过多机多卡训练,理解显存管理和通信开销;5.RL系统相关顶会论文(NeurIPS/ICML/ICLR/MLSys)。 |
免责声明:用人单位专业、学历、学位、资格条件、备注内容等报考条件情况复杂,
是否符合职位报考条件请登录招考单位官网进行核实或与招考单位电话联系确认,中
公教育职位匹配及相关信息仅供参考,因此造成的报考损失中公教育不承担任何责任。