Jetson上的DLA推理改由Python直接调度:cuda-bindings 13.3.0开放cuDLA接口,GPU与DLA可同流排队
NVIDIA在cuda-bindings 13.3.0中发布cuda.bindings.cudla模块,把cuDLA的C++运行时接口以Cython生成的薄层暴露给Python,使Jetson AGX Orin上的DLA推理无需编写C++即可完成设备创建、网络加载、缓冲区注册与任务提交。该模块面向混合模式,DLA任务通过CUDA流与GPU前后处理按序执行;同一套API在RTX Spark上保持一致。发布说明同时指出,当前版本不支持需要NvSci缓冲区与同步原语的独立模式。