社招

AI性能优化专家-火山引擎

负责火山引擎AI性能优化,提升大模型训练推理效率

字节跳动西安薪资未标注
社招C/C++PythonGoTensorFlowPyTorchLLMCVNLP异构计算性能分析
查看来源页最近更新:05/06 15:41

职位描述

负责火山引擎-IaaS异构云产品的性能优化,聚焦AI场景、大模型训练和推理的性能提升,构建通用的软件加速方案,协助客户挖掘硬件性能潜力,提升应用表现。

主要工作包括:

1、负责AI Infra的性能分析,构建性能标尺和竞争力模型;

2、负责基于云上AIGC等业务场景的性能分析以及训练、推理场景的底层优化工作;

3、负责云上IaaS 国产加速器在AI场景的引入、落地和优化工作。

职位要求

1、熟练掌握Linux环境下的C/C++、Python、Go语言,有分布式系统软件开发和调试经验;

2、熟悉LLM/CV/NLP/推荐系统等业务场景的系统和原理;

3、有主流深度学习框架(如TensorFlow、PyTorch等)相关开发经验,掌握框架任一组件的代码实现;

4、掌握异构计算、网络、存储的性能分析工具和相关原理,有软硬协同优化经验。

具备以下条件之一者优先:

1、熟悉主要云厂商的AI Infra解决方案;

2、在LLM训练或推理性能优化方面有实操经验;

3、有模型量化和业务模型精度调优经验;

4、有TensorRT/CUTLASS/Trition等开发经验和性能优化经验;

5、熟悉国产AI加速卡生态,有实际场景的应用经验。

岗位信息

经验要求不限
学历要求不限
岗位类型社招
来源企业官网
发布日期2024-01-05
链接状态检测有效性

相关岗位