darknet框架中YOLOv3对数据集进行训练和预测详解

git clone https://github.com/pjreddie/darknet
cd darknet

    vi Makefile

GPU=1
CUDNN=0
OPENCV=0
OPENMP=0
DEBUG=0

make

VOCdevkit
-VOC2019 # 这个文件夹的年份可以自己取
--Annotations # 在这个文件夹下存放所有的xml文件
--ImageSets
---Main # 在这个文件夹下新建两个TXT文件
----train.txt
----val.txt
--JPEGImages # 在这个文件夹下存放所有的图片文件

#coding:utf-8
import os
from os import listdir, getcwd
from os.path import join
if __name__ == '__main__':           # 只有在文件作为脚本文件直接执行时才执行下面代码  
    source_folder='/home/tukrin/zhl/darknet/scripts/VOCdevkit/VOC2019/JPEGImages/'           #图片保存的路径
    dest='/home/tukrin/zhl/darknet/scripts/VOCdevkit/VOC2019/ImageSets/Main/train.txt'          #写有图片的名字的路径
    dest2='/home/tukrin/zhl/darknet/scripts/VOCdevkit/VOC2019/ImageSets/Main/val.txt'           #写有图片的名字的路径
    file_list=os.listdir(source_folder)  #获取各图片的名称       
    train_file=open(dest,'a')     #追加写打开              
    val_file=open(dest2,'a')       #追加写打开    
    count = 0              
    for file_obj in file_list:  
        count += 1                
        file_path=os.path.join(source_folder,file_obj) #路径拼接  指向 图片文件的路径
        file_name,file_extend=os.path.splitext(file_obj) #分离文件名与扩展名 file_name为去掉扩展名的图片名称 
        # file_num=int(file_name) 
        if(count<800):                     
            train_file.write(file_name+'\n')  #写入去掉扩展名的文件名名称  前800个作为 训练集数据
        else :
            val_file.write(file_name+'\n')    #写入去掉扩展名的文件名名称   后面的作为  验证集数据
    train_file.close() #关闭文件
val_file.close()   #关闭文件

python creat_train_val_txt.py

import xml.etree.ElementTree as ET 
import pickle
import os
from os import listdir, getcwd
from os.path import join
#要修改的地方
sets=[('2019', 'train'), ('2019', 'val')]  # 此处的2019对应前面新建文件夹时的2019，train和val对应两个TXT文件的文件名
#要修改的地方
classes =["car", "people"] # 此处为数据集的类别名称，一定要与xml文件中的类别名称一致，有几类就写几类
def convert(size, box):#size是图片的尺寸 box是矩形的四个点
    dw = 1./size[0] # 归一化的时候就是使用宽度除以整个image_size的宽度
    dh = 1./size[1] # 归一化的时候就是使用高度除以整个image_size的高度
    x = (box[0] + box[1])/2.0 # 使用(xmin+xmax)/2得到x的中心点
    y = (box[2] + box[3])/2.0 # 使用(ymin+ymax)/2得到y的中心点
    w = box[1] - box[0] # 然后宽度就是使用xmax-xmin计算得到
    h = box[3] - box[2] # 然后高度就是使用ymax-ymin计算得到
    x = x*dw# 归一化
    w = w*dw# 归一化
    y = y*dh# 归一化
    h = h*dh# 归一化
    return (x,y,w,h)
def convert_annotation(year, image_id):
    in_file = open('VOCdevkit/VOC%s/Annotations/%s.xml'%(year, image_id))
    out_file = open('VOCdevkit/VOC%s/labels/%s.txt'%(year, image_id), 'w')#此时文件是如何形成的？    open的时候自动建立
    root = tree.getroot()#获得root节点  
    size = root.find('size')
    w = int(size.find('width').text)
    h = int(size.find('height').text)
    for obj in root.iter('object'):
        difficult = obj.find('difficult').text
        cls = obj.find('name').text
        if cls not in classes or int(difficult) == 1:
            continue
        cls_id = classes.index(cls)
        xmlbox = obj.find('bndbox')
        b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text), float(xmlbox.find('ymax').text))
        bb = convert((w,h), b)
        out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
wd = getcwd()
for year, image_set in sets:
    if not os.path.exists('VOCdevkit/VOC%s/labels/'%(year)):#如果没有存在这个文件
        os.makedirs('VOCdevkit/VOC%s/labels/'%(year))#创建这个路径 来存放txt标签
    image_ids = open('VOCdevkit/VOC%s/ImageSets/Main/%s.txt'%(year, image_set)).read().strip().split()#此时文件是如何形成的？ 通过另一个脚本文件与图片名称生成的
    list_file = open('%s_%s.txt'%(year, image_set), 'w')#这个文件可能是自己建的？ open的时候自动建立
    for image_id in image_ids:
        list_file.write('%s/VOCdevkit/VOC%s/JPEGImages/%s.jpg\n'%(wd, year, image_id))
        convert_annotation(year, image_id)
    list_file.close()
#要修改的地方
os.system("cat 2019_train.txt 2019_val.txt > train.txt") # 此处是将两个txt连接成一个txt，如果你训练时不用val.txt中的数据，可以注释掉这句话。
 # os.system("cat 2007_train.txt 2007_val.txt 2007_test.txt 2012_train.txt 2012_val.txt > train.all.txt")# 另外，删除另外一条os.system(...)语句。

python voc_label.py

wget https://pjreddie.com/media/files/darknet53.conv.74 

classes= 2  # 你的数据集的类别数
train  =  /home/tukrin/zhl/darknet/scripts/2019_train.txt  # 第4步中生成的txt文件路径
valid  =  /home/tukrin/zhl/darknet/scripts/2019_val.txt  # 第4步中生成的txt文件路径
names  =  /home/tukrin/zhl/darknet/data/voc.names # voc.names 的文件路径
backup =  /home/tukrin/zhl/darknet/backup/  #backup文件夹的路径 训练的权重将保存在这

car
people

[net]
# Testing
# batch=1
# subdivisions=1
# Training
batch=64
subdivisions=16

width=416
height=416
channels=3
momentum=0.9
decay=0.0005
angle=0
saturation = 1.5
exposure = 1.5
hue=.1
learning_rate=0.001
burn_in=1000
max_batches = 50200 # 迭代次数
policy=steps
steps=40000,45000 # 在指定迭代次数时进行学习率衰减
scales=.1,.1  # 学习率衰减率 此处是0.1

......
[convolutional]
size=1
stride=1
pad=1
filters=21 ....................# 修改为 3 * （类别数 + 5），此处类别数为2，所以设置为 3*（2+5）=21
activation=linear
[yolo]
mask = 6,7,8
anchors = 10,13,  16,30,  33,23,  30,61,  62,45,  59,119,  116,90,  156,198,  373,326
classes=2 .....................# 修改类别数
num=9
jitter=.3
ignore_thresh = .5
truth_thresh = 1
random=1
......
[convolutional]
size=1
stride=1
pad=1
filters=21 .....................# 同上
activation=linear
[yolo]
mask = 3,4,5
anchors = 10,13,  16,30,  33,23,  30,61,  62,45,  59,119,  116,90,  156,198,  373,326
classes=2 .....................# 同上
num=9
jitter=.3
ignore_thresh = .5
truth_thresh = 1
random=1
......
[convolutional]
size=1
stride=1
pad=1
filters=21 .....................# 同上
activation=linear
[yolo]
mask = 0,1,2
anchors = 10,13,  16,30,  33,23,  30,61,  62,45,  59,119,  116,90,  156,198,  373,326
classes=2 .....................# 同上
num=9
jitter=.3
ignore_thresh = .5
truth_thresh = 1
random=1

./darknet detector train cfg/voc.data cfg/yolov3-voc.cfg scripts/darknet53.conv.74 -gpus 0,1

./darknet detector train cfg/voc.data cfg/yolov3-voc.cfg backup/yolov3-voc_900.weights -gpus 0,1