研发

大模型算法专家-Data

负责大模型后训练算法研究与垂直领域模型全流程研发

字节跳动上海薪资未标注
研发SFTDPORLLoRAQLoRAAdapter TuningTensorFlowPyTorch
查看来源页最近更新:05/06 15:41

职位描述

1、负责SFT(监督微调)、DPO(直接偏好优化)、RL(强化学习)等大模型后训练算法的研究与开发,优化模型训练流程,提升模型在各类任务中的性能与表现,增强模型的泛化能力和适应性;

2、负责Coding、翻译、多模态等垂直领域大模型的全流程研发工作,包括需求分析、模型架构设计、数据处理、模型训练与评估,打造贴合行业场景需求的专属大模型解决方案;

3、探索并实践参数高效微调技术(如LoRA,QLoRA,Adapter Tuning等),在保证模型效果的同时,显著降低训练与部署成本;

4、建立并完善模型评测体系,持续跟踪模型在多种下游任务中的表现,并推动模型快速迭代与上线部署;

5、持续跟踪行业最新技术动态,结合公司业务需求,对现有大模型算法和垂直领域模型进行优化与迭代,解决模型训练和应用过程中的技术难题,提升模型的效率和质量;

6、与业务团队紧密协作,深刻理解业务需求,推动模型能力与业务场景的深度融合,形成技术到价值的完整闭环。

职位要求

1、计算机科学、人工智能或相关专业本科及以上学历,具备3年以上机器学习或深度学习领域的研发经验;

2、精通SFT、DPO、RL等大模型后训练算法原理,具备扎实的机器学习、深度学习理论基础,熟悉主流深度学习框架(如TensorFlow、PyTorch等),有丰富的模型训练与调优经验;

3、对Coding、翻译、多模态等垂直领域大模型有深入理解,了解该领域的技术发展趋势和应用场景,有相关项目经验者优先;

4、熟悉PyTorch与Hugging Face Transformers等主流深度学习框架,具备良好的代码编写规范和工程实践能力,能够独立完成复杂算法的代码实现;

5、具有优秀的逻辑思维能力、问题解决能力和创新意识,能够快速学习和掌握新技术;良好的团队协作精神和沟通能力,能在跨部门协作中高效推进项目;

6、了解基础的MLOps理念与工具,包括模型版本控制、关键指标监控、A/B测试及服务回滚策略。

加分项

1、拥有中文特定行业(如金融、法律、医疗)大模型后训练的实践经验;

2、熟悉并实践过对齐技术,如DPO、KTO或RLHF;

3、在模型安全、偏见与价值观对齐方面有深入研究或相关项目经验;

4、具备工具或函数调用(Function Calling)相关能力的模型训练经验;

5、熟悉检索增强生成(RAG)技术,并有结合后训练进行优化的经验。

岗位信息

经验要求3-5年
学历要求本科
岗位类型研发
来源企业官网
发布日期2025-11-18
链接状态检测有效性

相关岗位