报错现象:
19 conv 128 1 x 1 / 1 76 x 76 x 256 -> 76 x 76 x 128 0.379 BFLOPs
20 CUDA Error: out of memory
darknet: ./src/cuda.c:36: check_error: Assertion `0' failed.
已放弃 (核心已转储)
解决办法:
这是由于显存不足导致的报错,打开yolov3.cfg文件,修改subdivisions,显存不足时,将该值改大一些
batch=64
# 现存不够时,这个值需要改大
subdivisions=64
width=608
height=608
channels=3
momentum=0.9
decay=0.0005