Geforce Nvidia MX130的GPU运行时错误

Question

我正在尝试使用BERT微调空间NER模型

#Train the data
!python -m spacy train -g 0 config_spacy_bert.cfg --output ./output --paths.train ./train.spacy --paths.dev ./train.spacy

配置文件中的批处理大小是2，我得到一个错误

RuntimeError: CUDA out of memory. Tried to allocate 18.00 MiB (GPU 0; 1.96 GiB total capacity; 958.13 MiB already allocated; 11.25 MiB free; 978.00 MiB reserved in total by PyTorch)

如何删除这个错误

Answer 1

你没有足够的GPU内存。你需要一个更大的GPU，或者不使用BERT，或者使用一个更小的模型。

使用spaCy时推荐的GPU内存大小为10GB;有时你可以用8GB或更少一点，但看起来你只有2GB，这是不够的。