yoloV3参数理解及注释
#define SAMPLE_SVP_NNIE_YOLOV3_REPORT_BLOB_NUM 3 /*yolov3 report blob num 输入图像的通道数*/
#define SAMPLE_SVP_NNIE_YOLOV3_EACH_GRID_BIAS_NUM 6 /*yolov3 bias num of each grid */
num=9 每个grid cell预测几个box,和anchors的数量一致。当想要使用更多anchors时需要调大num，且如果调大num后训练时Obj趋近0的话可以尝试调大object_scale
#define SAMPLE_SVP_NNIE_YOLOV3_EACH_BBOX_INFER_RESULT_NUM 14 /*yolov3 inference result num of each bbox*/ (9+5)
(HI_S32,pstSoftwareParam->stDstScore.u64VirAddr),
(HI_S32,pstSoftwareParam->stDstRoi.u64VirAddr),
(HI_S32,pstSoftwareParam->stClassRoiNum.u64VirAddr)
* HI_S32 *ps32DstScores [OUT] dst score
* HI_S32 *ps32DstRoi [OUT] dst roi
* HI_S32 *ps32ClassRoiNum [OUT] class roi num 数组：存储每个类别识别出来物体的数量
可以添加没有标注框的图片和其空的txt文件，作为negative数据
可以在第一个[yolo]层之前的倒数第二个[convolutional]层末尾添加 stopbackward=1,以此提升训练速度
即使在用416*416训练完之后，也可以在cfg文件中设置较大的width和height，增加网络对图像的分辨率，从而更可能检测出图像中的小目标，而不需要重新训练
Out of memory的错误需要通过增大subdivisions来解决
yolov3 自定义训练需要必须修改的·3·处地方
[convolutional]
size=1
stride=1
pad=1
filters=75 # filters=21 最后一个卷积层 3x(classes数目+5)
activation=linear
[yolo]
mask = 0,1,2
anchors = 10,13, 16,30, 33,23, 30,61, 62,45, 59,119, 116,90, 156,198, 373,326
classes=20 # classes=2 识别物体的类别
num=9 # num anchor box 数量
jitter=.3
ignore_thresh = .5
truth_thresh = 1
random=1
如果你看到avg loss =nan 说明训练错误;
某一行的Class=-nan说明目标太大或者太小，
某个尺度检测不到,属于正常
什么时候应该停止训练?
当loss不在下降或者下降极慢的情况可以停止训练，一般loss=0.7左右就可以了
在训练集上测试正确率很高，在其他测试集上测试效果很差，说明过拟合了。
提前停止训练，或者增大样本数量训练
如何提高目标检测正确率包括IOU，分类正确率
设置yolo层 random =1，增加不同的分辨率。或者增大图片本身分辨率。或者根据你自定义的数据集去重新计算anchor尺寸（darknet.exe detector calc_anchors data/obj.data -num_of_clusters 9 -width 416 -height 416 then set the same 9 anchors in each of 3 [yolo]-layers in your cfg-file）
如何增加训练样本？
样本特点尽量多样化，亮度，旋转，背景，目标位置，尺寸
添加没有标注框的图片和其空的txt文件，作为negative数据
训练的图片较小，但是实际检测图片大，怎么检测小目标
1.使在用416*416训练完之后，也可以在cfg文件中设置较大的width和height，增加网络对图像的分辨率，从而更可能检测出图像中的小目标，而不需要重新训练
2.
set `[route] layers = -1, 11`
set ` [upsample] stride=4`
网络模型耗费资源多大？
（我用过就两个）
[yolov3.cfg] [236MB COCO-91类] [4GB GPU-RAM]
[yolov3.cfg] [194MB VOC-20类] [4GB GPU-RAM]
[yolov3-tiny.cfg] [34MB COCO-91类] [1GB GPU-RAM]
[yolov3-tiny.cfg] [26MB VOC-20类] [1GB GPU-RAM]
多GPU怎么训练
首先用一个gpu训练1000次迭代后的网络，
再用多gpu训练
darknet.exe detector train data/voc.data cfg/yolov3-voc.cfg /backup/yolov3-voc_1000.weights -gpus 0,1,2,3
有哪些命令行来对神经网络进行训练和测试？
1.检测图片： build\darknet\x64\darknet.exe detector test data/coco.data cfg/yolov3.cfg yolov3.weights -thresh 0.25 xxx.jpg
2.检测视频：将test 改为 demo ; xxx.jpg 改为xxx.mp4
3.调用网络摄像头：将xxx.mp4 改为 http://192.168.0.80:8080/video?dummy=x.mjpg -i 0
4.批量检测：-dont_show -ext_output < data/train.txt > result.txt
5.手持端网络摄像头：下载mjpeg-stream 软件, xxx.jpg 改为 IP Webcam / Smart WebCam
如何评价模型好坏
build\darknet\x64\darknet.exe detector map data\defect.data cfg\yolov3.cfg backup\yolov3.weights
利用上面命令计算各权重文件，选择具有最高IoU（联合的交集）和mAP（平均精度）的权重文件
（1）最后一个卷积层
[convolutional]
size=1
stride=1
pad=1
filters=125 // 125 = 5(anchor box) * (20(class) + 4(coor) + 1(confidence))
... // 根据class数算好filters个数
（2）[yolo]
anchors = 1.08,1.19, 3.42,4.41, 6.63,11.38, 9.42,5.11, 16.62,10.52
bias_match=1
classes=10 // 改成目标分类数量
coords=4
num=5 // anchor box 数量
anchors = 1.08,1.19, 3.42,4.41, 6.63,11.38, 9.42,5.11, 16.62,10.52
bias_match=1
classes=20
coords=4 //BoundingBox的tx,ty,tw,th，tx与ty是相对于左上角的gird，同时是当前grid的比例，tw与th是宽度与高度取对数
num=5 // 每个grid预测的BoundingBox个数
softmax=1 //使用softmax作为激活函数
jitter=.2 //通过抖动增加噪声，控制过拟合
rescore=1 //理解为一个开关，非零时通过重新打分来调整I.delta（预测值与真实值的差）
//YOLOv1论文中cost function的权重，哪一个更大，每一次更新权重的时候，对应方面的权重更新相对比重更大
object_scale=5 // 计算损失时，预测框中有物体的权重
noobject_scale=1 // 计算损失时，预测框中没有物体的权重
class_scale=1 // 计算类别损失时的权重
coord_scale=1 // 计算损失时坐标偏差的权重
absolute=1
thresh = .6 //决定是否需要计算IOU误差的参数，大于thresh，IOU误差不会夹在cost function中
random=1 //是否随机确定最后一个预测框
1.yolov3-voc.cfg(参考很多文章写的汇总，有些写了但还是不是很懂，如果有误请及时指正)
[net]
## Testing 测试模式
# batch=1
# subdivisions=1
## Training 训练模式
batch=64 一批训练样本的样本数量，每batch个样本更新一次参数
subdivisions=16 batch/subdivisions 作为一次性送入训练器的样本数量,如果内存不够大，将batch分割为subdivisions个子batch
上面这两个参数如果电脑内存小，则把batch改小一点，batch越大，训练效果越好
subdivisions越大，可以减轻显卡压力
# 只设置成32的倍数（考虑precision） 7x32=224 13x32=416
width=416 input图像的宽
height=416 input图像的高
channels=3 input图像的通道数
以上三个参数为输入图像的参数信息 width和height影响网络对输入图像的分辨率，
从而影响 precision，只可以设置成32的倍数
momentum=0.9 [?]DeepLearning1 中最优化方法中的动量参数，这个值影响着梯度下降到最优值得速度https://nanfei.ink/2018/01/23/YOLOv2%调参总结
decay=0.0005 [?]权重衰减正则项，防止过拟合.每一次学习的过程中，将学习后的参数按照固定比例进行降低，为了防止过拟合，decay参数越大对过拟合的抑制能力越强。
# 图像增强
# // 对于每次迭代训练，YOLOv3会基于角度(angle)，饱和度(saturation)，曝光(exposure)，色调(hue)产生新的训练图片
angle=0 通过旋转角度来生成更多训练样本, 数据扩充时图片旋转的角度，单位为度，假如angle=5，就是生成新图片的时候随机旋转-5~5度
saturation = 1.5 通过调整饱和度来生成更多训练样本, 饱和度范围1.5~1倍
exposure = 1.5 通过调整曝光量来生成更多训练样本, 曝光度范围1.5~1倍
hue=.1 通过调整色调来生成更多训练样本, 色调变化范围-0.1~0.1
### 学习率调整
learning_rate=0.001 初始学习率决定着权值更新的速度，设置得太大会使结果超过最优值，太小会使下降速度过慢。
如果仅靠人为干预调整参数，需要不断修改学习率。刚开始训练时可以将学习率设置的高一点，
而一定轮数之后，将其减小
在训练过程中，一般根据训练轮数设置动态变化的学习率。
刚开始训练时：学习率以 0.01 ~ 0.001 为宜。
一定轮数过后：逐渐减缓。
接近训练结束：学习速率的衰减应该在100倍以上。
学习率的调整参考https://blog.csdn.net/qq_33485434/article/details/80452941
max_batches = 20200 训练达到max_batches后停止学习
burn_in=1000 在迭代次数小于burn_in时，其学习率的更新有一种方式，大于burn_in时，才采用policy的更新方式
policy=steps 这个是学习率调整的策略，有policy：constant, steps, exp, poly, step, sig, RANDOM，constant等方式
参考https://nanfei.ink/2018/01/23/YOLOv2%E8%B0%83%E5%8F%82%E6%80%BB%E7%BB%93/#more
steps=40000,45000 下面这两个参数steps和scale是设置学习率的变化，比如迭代到40000次时，学习率衰减十倍。
scales=.1,.1 当达到45000次迭代时，学习率又会在前一个学习率的基础上衰减十倍
[convolutional]
batch_normalize=1 是否做BN
filters=32 输出特征图的数量
size=3 卷积核的尺寸
stride=1 做卷积运算的步长
pad=1 如果pad为0,padding由 padding参数指定;如果pad为1，padding大小为size/2，padding应该是对输入图像左边缘拓展的像素数量
activation=leaky 激活函数有以下几种：logistic，loggy，relu，elu，relie，plse，hardtan，lhtan，linear，ramp，leaky，tanh，stair 一般来说，现在用leaky的会比较多
# Downsample
[convolutional]
batch_normalize=1
filters=64
size=3
stride=2
pad=1
activation=leaky
[convolutional]
batch_normalize=1
filters=32
size=1
stride=1
pad=1
activation=leaky
[convolutional]
batch_normalize=1
filters=64
size=3
stride=1
pad=1
activation=leaky
[shortcut]
from=-3
activation=linear
# Downsample
######################
[convolutional]
batch_normalize=1
filters=512
size=1
stride=1
pad=1
activation=leaky
...
[convolutional]
batch_normalize=1
size=3
stride=1
pad=1
filters=1024
activation=leaky
[convolutional]
size=1
stride=1
pad=1
# filters=45 3x(classes数目+5) 每一个[region/yolo]层前的最后一个卷积层中的 filters=(classes+1+coords)*anchors_num，coords 坐标
其中anchors_num 是该层mask的一个值.如果没有mask则 anchors_num=num 是这层的anchor= 5的意义是5个坐标，论文中的tx,ty,tw,th,to
activation=linear
[yolo] 在yoloV2中yolo层叫region层
mask = 6,7,8 这一层预测第6、7、8个 anchor boxes ，每个yolo层实际上只预测3个由mask定义的anchors
anchors = 10,13, 16,30, 33,23, 30,61, 62,45, 59,119, 116,90, 156,198, 373,326
[?]anchors是可以事先通过cmd指令计算出来的，是和图片数量，width,height以及cluster(应该就是下面的num的值，
即想要使用的anchors的数量)相关的预选框，可以手工挑选，也可以通过kmeans 从训练样本中学出
#classes=10 网络需要识别的物体种类数
num=9 每个grid cell预测几个box,和anchors的数量一致。当想要使用更多anchors时需要调大num，且如果调大num后训练时Obj趋近0的话可以尝试调大object_scale
# 通过抖动增加噪声，抑制过拟合
jitter=.3 [?]利用数据抖动产生更多数据，YOLOv2中使用的是crop，filp，以及net层的angle，flip是随机的，
jitter就是crop的参数，tiny-yolo-voc.cfg中jitter=.3，就是在0~0.3中进行crop
ignore_thresh = .5 决定是否需要计算IOU误差的参数，大于thresh，IOU误差不会夹在cost function中
truth_thresh = 1
#random=0 即关闭多尺度训练；如果为1，每次迭代图片大小随机从320到608，步长为32，如果为0，每次训练大小与输入大小一致
[route]
layers = -4
A.filters数目是怎么计算的：3x(classes数目+5)，和聚类数目分布有关，论文中有说明；
B.如果想修改默认anchors数值，使用k-means即可；
C.如果显存很小，将random设置为0，即关闭多尺度训练；
D.其他参数如何调整，有空再补;
E.前100次迭代loss较大，后面会很快收敛；
————————————————
版权声明：本文为CSDN博主「微风❤水墨」的原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/lilai619/article/details/79695109
2.训练时的参数
本来想截一个批次的但是太大了没截全，批次大小的划分对应上面 .cfg 文件中设置的 subdivisions 参数。上面的的 .cfg 文件中 batch = 64 ，subdivision = 16，所以在训练输出中，训练迭代包含了16组，每组又包含了4张图片，跟设定的batch和subdivision的值一致。
（注： 也就是说每轮迭代会从所有训练集里随机抽取 batch = 64 个样本参与训练，所有这些 batch 个样本又被均分为 subdivision = 16 次送入网络参与训练，以减轻内存占用的压力）
此处有16*3条信息，每组包含三条信息，分别是：
Region 82 Avg IOU:
Region 94 Avg IOU:
Region 106 Avg IOU:
三个尺度上预测不同大小的框 82卷积层 为最大的预测尺度，使用较大的mask，但是可以预测出较小的物体 94卷积层 为中间的预测尺度，使用中等的mask， 106卷积层为最小的预测尺度，使用较小的mask，可以预测出较大的物体
批输出
针对上图中最后一行中的信息。如下的输出是由 detector.c 生成的
20001： 指示当前训练的迭代次数
0.048537： 是总体的Loss
0.048537 avg： 是平均Loss（这个数值应该越低越好，一般来说，一旦这个数值低于0.060730 avg就可以终止训练了）
0.002000 rate： 代表当前的学习率，在.cfg文件中定义了它的初始值和调整策略。
3.904890 seconds： 表示当前批次训练花费的总时间。
2560128 images：表示到目前为止，参与训练的图片的总量，是批次*batch的大小（因为我之前训练到20200次后中断过又从20000次开始的所以2560128=20001*64*2，我是这样理解的不知道对不对）
###快输出
Region Avg IOU: 0.900319： 表示在当前subdivision内的图片的平均IOU，代表预测的矩形框和真实目标的交集与并集之比，这里是90.03%，很高了吧。
Class: 0.999576： 标注物体分类的正确率，期望该值趋近于1。
Obj: 0.991654： 越接近1越好。
No Obj: 0.000033： 期望该值越来越小，但不为零。
.5R:1.000000: 以IOU=0.5为阈值时候的recall; recall = 检出的正样本/实际的正样本
.75R:1.000000：以IOU=0.75为阈值时候的recall
count: 1：count后的值表示所有的当前subdivision图片（本例中一共4张）中包含正样本的图片的数量。在输出log中的其他行中，可以看到其他subdivision也有0、2、3、4，说明在subdivision中含有不含检测对象的图片。
————————————————
版权声明：本文为CSDN博主「Rani_zZ」的原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/weixin_42731241/article/details/81474920