Artifactory清理未使用的二进制品的最佳实践

Posted jfrogjiewa

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Artifactory清理未使用的二进制品的最佳实践相关的知识,希望对你有一定的参考价值。

Artifactory充分利用了基于Checksum的存储,但是这种机制无法代替常规的工件清理任务。软件开发可能很杂乱,很多时候Artifactory中的许多工件都从未使用过。

例如,许多CI / CD构建都配置为基于源代码控制“提交”运行,并且一旦将这些快照构建发送到Artifactory,就永远不会实际下载它们。 

考虑到软件开发的动态性质,大多数组织都有自己的数据保留策略。由您决定可以清除哪些数据,但是内置工具可以覆盖大多数情况。

通常,在Artifactory中使用三种技术来管理工件存储:

–限制保留多少SNAPSHOT
–清除超大缓存
–删除未使用的工件

限制保留多少SNAPSHOT

Artifactory具有内置机制来限制构建的“快照”。该系统的目的是确保在覆盖“release”工件之前将其从“snapshots”存储库中升级出来。

Artifactory支持六种存储库类型的“最大唯一快照”标记:

– Maven  – NuGet
– Gradle  –Ivy
– Docker  – SBT

 

Artifactory使用Artifactory Layout系统跟踪快照的数量。这意味着用户在上载快照工件时需要遵循预定义的模式(大多数客户端会自动处理)。 

例如,此Maven JAR文件被识别为快照运行编号3的一部分:

jfrog / hello / 1.0.5-SNAPSHOT / hello-1.0.5-20190620.224837-3.jar  

 技术图片

 

大多数CLI客户端使用特定模式进行上传,Artifactory的默认布局应涵盖这些情况。您可以根据需要自定义这些存储库类型的布局,以处理自定义上传路径。

要在Artifactory中启用此功能,请更新本地存储库设置:

技术图片 

 

启用此设置后,在“最大唯一快照数”上方进行的上传将在下次构建运行期间删除所有较早的发行版。 

最高的数字将始终是最新版本。

清除超大缓存

Artifactory的远程存储库将下载的文件存储在缓存中。通常,保留整个缓存是有益的,因为它可以加快下载速度。但是,如果项目使用的工件有所更改,则值得定期清除缓存。

在Artifactory中有支持此功能的内置系统。要启用自动缓存清除,请转到远程存储库菜单的“高级”部分。 

您可以在“ 未使用的工件清理期部分中添加清理工件之前的小时数:

技术图片 

 

这并不意味着工件会在12小时后被删除。相反,它在内部将工件标记为“未使用”。

在“ 管理员”->“高级”->“维护 ” 下找到一个单独的作业,称为“清理未使用的缓存工件”,它将执行清理。默认情况下,此cron作业每天运行一次。

删除未使用的工件

通常,Artifactory通常不会自动删除二进制文件。也有例外,例如本文中已讨论的字段。

话虽如此,通过删除长时间未下载的工件可以节省大量存储空间。自动清除未使用的文件的最佳方法是实施Artifactory User Plugin。

JFrog开发的最受欢迎的用户插件之一是“ artifactCleanup”插件。该插件在Cron Job上运行,并自动删除“ X”天之内尚未下载的任何工件。

如果您需要进一步自定义插件,则可以在代码中更改Artifactory Query Language语句:

 def aql =“ items.find{” repo“”“ + repoKey +”“” type“” any“” @ cleanup.skip“” true“})。include” repo“” path “名称类型

需要注意的一件事:artifactCleanupDocker Repositories上不起作用。 

Docker映像层作为单独的工件存储在“ image”文件夹中。如果大多数Docker客户端中已经有一个层,则不会经常下载该层。由于行为上的差异,建议使用单独的“ cleanDockerImages”插件。

它依赖manifest.json文件的下载计数,该文件始终在发生“ docker pull”时下载。

 

 

参考资料:

https://jfrog.com/knowledge-base/artifactory-cleanup-best-practices/

 

补充资料:


- AQL清理:

 

https://jfrog.com/blog/advanced-cleanup-using-artifactory-query-language-aql/

 

-清理已有数据:通过 Rest API 清理 90 天内无人下载的 snapshot,或者是 90 天以前的所有 snapshot,这样能够大大减少存储量,加快索引速度。

 

https://www.jfrog.com/confluence/display/RTF/Managing+Disk+Space+Usage#ManagingDiskSpaceUsage-ManualCleanupwiththeRESTAPI

 

-定期清理新增数据:在页面上配置实时清理 snapshot:

 

https://www.jfrog.com/confluence/display/RTF/Managing+Disk+Space+Usage#ManagingDiskSpaceUsage-LimitingtheNumberofSnapshots

 

更多精彩内容可以专注我们的在线课堂

微信搜索公众号:jfrogchina 获取课程通知

以上是关于Artifactory清理未使用的二进制品的最佳实践的主要内容,如果未能解决你的问题,请参考以下文章

Artifactory 仓库架构和命名最佳实践(上)

Artifactory 如何使用 SHA-256 进行安全存储?

Artifactory 仓库架构和命名最佳实践(下)

Jenkins管道+ Artifactory下载未下载

Amazon EKS 与 JFrog Artifactory容器化CI/CD发布的最佳实践

HarmonyOS - 手把手教你搭建Artifactory