# TensorRT Model Connect

NVIDIA 团队以一篇经验总结文章描述了开源项目 TensorRT Model Connect 的构建方式：该项目用 C++ 在 TensorRT 之上提供模型家族自有的参考实现，把 Hugging Face 或本地 checkpoint 转换为带版本的 .bundle 产物并暴露面向任务的 C++ API，覆盖文本、视觉、音频、扩散、分割、嵌入、预测等工作负载；截至 2026 年 7 月 29 日的公开发布对比，项目覆盖 128 个模型家族并在 NVIDIA GB300 上测试，团队据此提出以并行可分解任务、模型家族隔离、可逆变更和 GPU 支撑的自动化验证为核心的“AI 原生”工程做法。

NVIDIA 团队以一篇经验总结文章描述了开源项目 TensorRT Model Connect 的构建方式：该项目用 C++ 在 TensorRT 之上提供模型家族自有的参考实现，把 Hugging Face 或本地 checkpoint 转换为带版本的 .bundle 产物并暴露面向任务的 C++ API，覆盖文本、视觉、音频、扩散、分割、嵌入、预测等工作负载；截至 2026 年 7 月 29 日的公开发布对比，项目覆盖 128 个模型家族并在 NVIDIA GB300 上测试，团队据此提出以并行可分解任务、模型家族隔离、可逆变更和 GPU 支撑的自动化验证为核心的“AI 原生”工程做法。