GBU/TBU模型优化AI推理工程师

Baidu, Inc. · Singapour

New

CUDA 编程 PyTorch TensorFlow JAX C++ Python TensorRT cuDNN NCCL Triton Inference Server 算子融合图优化

Job description

职位概况

负责在 NVIDIA GPU 与 Google TPU 等异构硬件平台上部署和优化深度学习模型，提升推理吞吐量并降低延迟。

主要职责

跨平台模型部署与持续迭代，覆盖 GPU 与 TPU。
针对硬件特性进行性能调优，解决访存、算子效率等瓶颈。
实现模型格式转换、量化、算子融合与图优化，并对比不同平台性价比。
与算法团队协同设计模型结构，实现算法效果与推理效率平衡。
沉淀最佳实践，构建统一的推理部署工具链或抽象层。

任职要求

本科及以上学历，计算机、电子工程或自动化等相关专业，3 年以上 AI 基础设施或高性能计算经验。
熟悉 GPU（CUDA）或 TPU（XLA）体系架构及底层运行机制。
精通至少一种主流深度学习框架（PyTorch、TensorFlow、JAX）。
熟练使用 C++ 与 Python，具备系统编程和性能调优能力。
了解 TensorRT、cuDNN、NCCL、Triton Inference Server、XLA 等生态工具。

必备技能

GPU（NVIDIA）/TPU 硬件架构与 CUDA、XLA 编程。
PyTorch、TensorFlow、JAX 深度学习框架。
C++、Python 编程语言。
TensorRT、cuDNN、NCCL、Triton Inference Server 等推理工具。
模型量化（INT8/FP16/BF16）与算子融合、图优化技术。

Questions fréquentes

Le salaire n'est pas communiqué publiquement par le recruteur. Vous pouvez postuler et négocier directement avec Baidu, Inc..

Cliquez sur "Postuler maintenant" en haut de la page. Vous pouvez importer votre CV en 1 clic — Jobiglo extrait automatiquement vos informations et postule pour vous.

Why are you reporting this job?

Thank you for your report. We will review this job.

Explore further

Salaries, guides and searches in Singapore.

Salaries by job title

Apply in 30 seconds

Enter your email to apply. An account will be created automatically.

By continuing, you accept our terms of use.

Already have an account? Login

💬 Chat with us on Telegram Chat on WhatsApp

Published 5 days ago

Expires 1 month from now

22 views · 0 interested

Share Log in to earn credits by sharing

Boost your chances

Upload your CV — we will match you with relevant openings.

Analyzing your CV...

Baidu, Inc.

Singapour

Related job offers

Emplois à Singapour Métier : IT / Computer Science