这可能是训练模型的时候数据是从cuda0上跑的而且可能训练的时候用的多张卡如果设置参数里面没有map_location设置的话就会自动加载到原来保存数据的位置即训练的时候是从cuda0上保存的则推理读取的时候也会默认走cuda0另外我们还需要注意在加载模型时我们可能没有指定map_location 导致模型被加载到了默认的GPUcuda:0上而我们的设备是cuda:3 这会导致模型在cuda:0上占用显存而我们的计算在cuda:3上