用YOLOv5ds训练自己的数据集,注意点!

        这两天打算使用YOLOv5做一下实例分割,找到

用YOLOv5ds训练自己的数据集——同时检测和分割_2021黑白灰的博客-CSDN博客_yolov5图像分割

Yolov5同时进行目标检测和分割分割_LeeCW2022的博客-CSDN博客_yolov5分割

这两篇文章当参考,但是中间的问题多多。


        首先,训练参数的设置,按照黑白灰大佬的参数设置大体上没错,但是会容易出现RuntimeError: weight tensor should be defined either for all or no classes 这个问题。

        分析原因主要是分割头输入输出的类别数目不一样。那么我们就只用修改segheads.yaml里的segnc,为自己的类别数+1。用YOLOv5ds训练自己的数据集,注意点!_第1张图片

       

        同时,对于voc.yaml里面的类别数务必只改为自己的类别数,不能+1,里面的segnc也千万不能+1,因为+1后可以跑但是在detect的时候会超过类别索引,导致预测不了!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!大家也不想大半段时间白跑把。报错为:IndexError: index 3 is out of bounds for axis 0 with size 3

       补充:在预测是还是报这个错,需要更改detectds.py中的颜色数量,数量需要加上1,所以更改115行为:用YOLOv5ds训练自己的数据集,注意点!_第2张图片

 接下来就可以进行分割的预测了。


        最后,在使用detectds.py文件进行预测时,如果出现

RuntimeError: Input type (torch.cuda.HalfTensor) and weight type (torch.HalfTensor)这一报错,原因是你输入模型的数据和模型的数据类型不一样,输入数据是cuda类型的,而模型不是cuda类型的。解决办法就是找到Load model的地方,也就是detectds.py的第103行开始,在model赋值一行下面补充model = model.cuda(),这样加载的模型就是cuda类型的了,就能顺利预测了。

用YOLOv5ds训练自己的数据集,注意点!_第3张图片

        其他的就按照黑白灰大佬的步骤制作数据集和调参就行,目前只遇到了这些比较难搞的问题,有其他问题再说。


        补充:AttributeError: 'tuple' object has no attribute 'shape'

        使用detect.py时候报错。原因是啥我也不清楚,但是我看

这一块的时候看到他在detectds.py中的第一个参数的应用是不一样的, 用YOLOv5ds训练自己的数据集,注意点!_第4张图片

那我就试着在detect.py中加上[0][0]显示超出,去掉一个[0],预测成功,碰到死耗子了,可用,有大佬清楚原因可以评论区留言分享一下,感谢。 

你可能感兴趣的