深度学习训练营之训练自己的数据集
原文链接
- ???? 本文为????365天深度学习训练营 中的学习记录博客
- ???? 参考文章：365天深度学习训练营-第Y2周:训练自己的数据集
- ???? 原作者：K同学啊|接辅导、项目定制
环境介绍
- 语言环境：Python3.9.13
- 编译器：vscode
- 深度学习环境：torch
- 显卡:NVIDIA GeForce RTX 3070 Laptop GPU
准备好数据集
我这里采用的数据集是经典的目标检测算法当中的一个数据集,这里附上链接:
文件提取:链接：https://pan.baidu.com/s/1SuNxOTCgrQlqXWK_cRzCZQ
提取码：0909
文件夹下内容:
划分数据集
运行如下命令进行数据集的划分
python split_train_val.py --xml_path D:\yolov5-master\yolov5-master\my_data\Annotations --txt_path D:\yolov5-master\yolov5-master\my_data\ImageSets\Main
原始应该是这样
python split_train_val.py --xml_path xx --txt_path xx
其中xx的地方根据相应的路径进行更改,需要注意到的是运行的路径是函数python split_train_val.py所在的文件夹下进行运行,否则会报错
在弹出的对话框中进行运行
可以看到已经成功生成了
运行voc_train.py
遇到问题
遇到如下报错unsupported operand type(s) for +: 'builtin_function_or_method' and 'str'
这里所说的意思应该是指不能将type(s)类型的字符加上一个函数或者方法,我简单查看了一些,是我在定义abs_path的时候漏加括号,导致abs_path的字符类型出现错误
完整代码
经过调试和更改路径之后得到的代码如下
import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
sets = ['train','val','test']
# 20类
classes = ["aeroplane", "bicycle", "bird", "boat", "bottle", "bus", "car", "cat", "chair", "cow", "diningtable", "dog",
"horse", "motorbike", "person", "pottedplant", "sheep", "sofa", "train", "tvmonitor"]
abs_path=os.getcwd()
print(abs_path)
# size w,h
# box x-min,x-max,y-min,y-max
def convert(size, box):
dw = 1./size[0]
dh = 1./size[1]
x = (box[0] + box[1])/2.0 -1# 中心点位置
y = (box[2] + box[3])/2.0 -1
w = box[1] - box[0]
h = box[3] - box[2]
x = x *dw
w = w *dw
y = y *dh
h = h *dh # 全部转化为相对坐标
return (x, y, w, h)
def convert_annotation(image_id):
# 找到2个同样的文件
in_file = open('Annotations/%s.xml' % (image_id),encoding='UTF-8')
out_file = open('labels/%s.txt' % (image_id), 'w')
tree = ET.parse(in_file)
root = tree.getroot()
size = root.find('size')
w = int(size.find('width').text)
h = int(size.find('height').text)
for obj in root.iter('object'):
difficult = obj.find('difficult').text
cls = obj.find('name').text
if cls not in classes or int(difficult) == 1: #difficult ==1 的不要了
continue
cls_id = classes.index(cls) # 排在第几位
xmlbox = obj.find('bndbox')
b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
float(xmlbox.find('ymax').text))
# 传入的是w,h 与框框的周边
b1,b2,b3,b4=b
if b2>w:
b2=w
if b4>h:
b4=h
b=(b1,b2,b3,b4)
bb = convert((w, h), b)
out_file.write(str(cls_id) +" "+" ".join([str(a) for a in bb]) + '\n')
wd = getcwd()
for image_set in sets:
# ('2012', 'train') 循环5次
# 创建目录 一次性
if not os.path.exists('labels/' ):
os.makedirs('labels/')
# 图片的id数据
image_ids = open('ImageSets/Main/%s.txt' % (image_set)).read().strip().split()
# 结果写入这个文件
list_file = open('%s.txt' % (image_set), 'w')
for image_id in image_ids:
list_file.write(abs_path+'/JPEGImages/%s.jpg\n' % (image_id)) # 补全路径
convert_annotation(image_id)
list_file.close()
(记录一下:一开始这个最后的JPEGImages没加斜杠,导致后续报错,这里是添加过后的)
运行val_voc.py可以得到三个txt的文件,其内容如下:
创建new_data.yaml文件
这个文件的名称new_data.yaml是我自己随便起的一个名字,大家可以自行更改
模型训练时遇到的报错
expected '<document start>', but found '<scalar>'
这里主要的原因是在定义变量的时候我使用的是=,但是应该用:
错误图片:(这里突然发现这个mydata当中trian和val的名字不一样,导致后面一系列的错误,我后面改完之后就行)
更正以后:
models文件夹下的用于训练的yolov5s.yaml
把这个原本的分类从80改成20(20是我的数据集的类型)
模型训练
运行如下命令,开始训练
python train.py --img 928 --batch 2 --epoch 10 --data data/new_data.yaml --cfg models/yolov5s.yaml --weights weights/yolov5s.pt
出现以下报错(没有出现就是成功训练啦)No labels found in D:\yolov5-master\yolov5-master\my_data\train.cache.
在train.py当中更改成绝对路径
new_data.yaml也进行修改
更改D:\yolov5-master\yolov5-master\utils当中的sa,sb的路径
开始运行…
结果可视化
运行结果如下
使用wandb可以看到我们的运行结果的一些可视化