恒源云(Gpushare)_自动化训练小技巧白送给你,不要吗?

Posted AI酱油君

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了恒源云(Gpushare)_自动化训练小技巧白送给你,不要吗?相关的知识,希望对你有一定的参考价值。

文章来源 | 恒源云社区

原文地址 | 自动化后台训练

作者 | Littleor


大噶好啊,今日小编还在坚挺中,没疯,虽然被告知所在区域是封控区,但工作还需要我去完成,我得加油!⛽️

今天先不搬运小伙伴们的论文类文章,先给各位来个技巧分享!
内容不长,希望能带给各位炼丹小伙伴们一点小小的帮助。

这里是一个简单易用的一个后台全自动化训练日志记录、结果数据自动保存和自动关机的脚本。
仓库地址:https://github.com/Littleor/HY-Auto-Trainer

特性

  • 使用 nohup 在后台进行训练,完全可以断开 ssh 的连接,解放双手。
  • 训练完成自动打包运行结果到 OSS 上,避免结果丢失。
  • 上传完成自动关机,省钱省事~

用法

配置

  • 复制目录下所有的 *.sh 文件到项目目录(如 /hy-tmp)
  • 给 *.sh 文件加上权限:
chmod a+x *.sh
  • 修改 run.sh 中的 logPath 来修改日志保存路径
  • 修改 end.sh 中的 resultPath 来修改需要保存的运行结果的路径
  • 如果非 Python 项目, 则需要修改 end.sh 的 python 为对应的执行命令即可

使用

以本项目为例,在项目中有个 Train/main.py 文件作为模拟训练的文件,并将项目文件放在 /hy-tmp 目录下。

运行方法:

# ./run.sh [可执行文件目录] [Tag 用于标注结果]
./run.sh /hy-tmp/Train/main.py Test-Trainer

以上是关于恒源云(Gpushare)_自动化训练小技巧白送给你,不要吗?的主要内容,如果未能解决你的问题,请参考以下文章

恒源云(GPUSHARE)_替代MLM的预训练任务,真的超简单吗?

恒源云(GPUSHARE)_超越预训练 NLP 的模型来喽

恒源云(GPUSHARE)_超越预训练 NLP 的模型来喽

恒源云_训练一个专门捣乱的模型

恒源云_Teacher Forcing训练小技巧来啦~

恒源云(Gpushare)_今日炼丹小疑问:如何给数据加权重?