问题总结 神经网络在gpu训练,device注意事项 神经网络如何使用gpu话题 神经网络第n层推理,与训练怎么使用gpu的问题 在gpu上做运算,把cpu数据挪到GPU上 只要所有操作数据在gpu上,所有的操作也会在gpu上完成 如果数据不在gpu上你需要手动copy然后在运行,如果你有多个gpu话,你需要保证操作的数据在同一个gpu去运行 神经网络要在一个gpu上做运算推理forward:你需要把它权重copy在gpu上,把它输入也copy到gpu ,然后就可以在gpu上做forward。 forward做完之后,backforwd应该也会在同一个gpu上做运算 深度网络gpu运行知识