研发

AI与大数据存储研发工程师-基础设施

负责AI与大数据存储基础设施的架构设计与研发优化

字节跳动北京薪资未标注
研发分布式存储一致性协议数据冗余缓存调度GC优化JavaC/C++Go网络编程高并发编程AI大模型3FSTectonicColossus消息队列数据湖数仓ClickHouse
查看来源页最近更新:05/06 15:41

职位描述

1、参与AI存储相关产品的整体架构设计,主导大模型训练/推理端到端存储方案的需求拆解、方案设计、研发交付与持续运维;针对推荐、广告、搜索场景下的大模型训练需求,定制化优化存储策略,保障模型训练效率与稳定性;

2、参与大数据场景下存储技术演进,对接消息队列、数据湖、数仓、ClickHouse等核心组件,完成存储层适配优化与架构升级;

3、挖掘存储产品性能瓶颈、可靠性缺陷,设计高可用、易扩展、低成本的优化方案,解决大模型训练中的IO阻塞、数据调度、高并发读写等核心痛点;保障存储集群高质量迭代、高效率发布,支撑EB级数据规模平稳运行。

职位要求

1、精通分布式存储系统核心原理与关键技术(一致性协议、数据冗余、缓存调度、GC优化等),具备独立拆解复杂需求、输出落地级存储解决方案的能力;

2、熟练掌握Java/C/C++/Go任意一门开发语言,精通网络编程、多线程/多进程高并发编程,具备存储组件研发、问题排查与性能调优实战经验,可主导产品落地;

3、熟悉AI大模型训练/推理存储特性,了解3FS、Tectonic、Colossus等业界主流AI存储架构,掌握大模型Checkpoint读写、海量小文件/大文件混合存储、低延迟IO优化等关键技术;

4、熟悉大数据技术体系,精通Yarn、Spark、Flink、Kafka、HBase、ClickHouse、数据湖/数仓中至少两种组件的底层架构、工作原理与业务应用。

加分项:

1、参与过PB/EB级AI分布式存储集群研发、运维、故障排查与性能调优,有大模型训练存储优化实战经验者优先;

2、参与过HDFS、Ceph、Alluxio及AI存储相关开源项目开发,具备开源贡献经验者优先;

3、深入理解推荐、广告、搜索业务场景,有AI训练数据治理、存储链路优化落地经验者优先。

岗位信息

经验要求不限
学历要求不限
岗位类型研发
来源企业官网
发布日期2025-07-25
链接状态检测有效性

相关岗位