libtorch (pytorch c++) 教程

Posted 2022-05-16 浩瀚之水_csdn

这是个教程总结，libtorch教程一共八章，主要是实现了c++版本的分类，分割和检测工具吧。这对一些需要C++/C#/Java做项目的同志来说，想必是大大的福音了。

由于代码全程几乎手敲，不像现在许多python项目，可以直接从其他地方CV(ctr C + ctr V)过来，同时c++项目debug起来比python麻烦很多，光是项目大了以后编译一次都耗时很久....算不上诉苦，只能说干c++的都是脏活，让人头秃👨‍🦲。

不过现在深度学习相关的岗位，尤其是CV岗，python的HC真的不多，大厂还好，有但是要求高，小厂要求低些但是也基本要求会部署之类的。一般大厂研究院可以搞训练和部署分开搞，中小厂一般还是c++和python都有要求的，甚至很多大厂也是同时要求训练部署一个人包。所以，做深度学习相关的，对c++有些要求，或者说会部署调优确实很重要了。

有机会整整TensorRT也很有必要啊。

其实这章说是教程，不如说是碎碎念了。原本想做个GAN相关的，后来实在烦了，懒得弄，其实都差不多，基本学完前面章节，整个libtorch的DCGAN之类的，不要太简单。

关于libtorch的一些编程经验，总结下吧：

• libtorch有许多坑，比如sequential in sequential会报错，而且解决不了，除非另写个stack的sequential类....比如CPU比python有时候还要慢一些...虽然GPU一般会快个三成。
• libtorch中的sequential，不能堆叠std::vector<torch::Tensor>为输入的模块，比如yolov5模型，就整了个ConCat模块，libtorch里面没法用啊。一时间不知道该怪yolov5作者代码规范差好，还是怪libtorch垃圾好，还是怪自己没资源好。所以最后整了个yolov4_tiny。
• libtorch还是有许多待优化的东西的，比如提速啥的，后面要是能整个int8精度预测，一个api调用，可能TensorRT的市场份额又得缩小了。当然，应该没有TensorRt提速那么多，毕竟不可能比人家更了解Nvidia显卡了...
• 有条件，还是自己整个配套的python模型，然后自己训练个预训练的权重，比到处找合适的开源项目及权重香多了。当然，要是真的精力好，自己从头训练libtorch的模型也未尝不可啊筒子们。或许等我项目完善起来，也可以实现libtorch从头训练吧，需要加许多东西，加许多数据增强，一些学习率调整策略也要自己实现，加上时间和资源，应该还是可以的。毕竟libtorch接过了caffe的大旗，而且有脸书大厂在维护。
• 说到底，就是资源给够，花钱铺人，写个libtorch++都可以实现...想必许多公司应该就是这样干的，目前也在愉快融资啥的了。

后续会将主要精力放在两个开源项目上了，LibtorchSegment项目和LibtorchDetection项目。争取提供尽量多的骨干网络，框架，数据增强和训练优化接口。有时间整个界面，最好Qt的，弄个QtorchCV项目也不错哈哈。