在 Maven 构建中并行运行 junit 测试?
Posted
技术标签:
【中文标题】在 Maven 构建中并行运行 junit 测试?【英文标题】:Running junit tests in parallel in a Maven build? 【发布时间】:2010-09-30 05:35:06 【问题描述】:我正在使用 JUnit 4.4 和 Maven,并且我有大量长期运行的集成测试。
当涉及到并行化测试套件时,有一些解决方案可以让我在单个测试类中并行运行每个测试方法。但所有这些都要求我以一种或另一种方式更改测试。
我真的认为在 X 个线程中并行运行 X 个不同的测试类会是一个更简洁的解决方案。我有数百个测试,所以我并不真正关心单个测试类的线程。
有什么办法吗?
【问题讨论】:
【参考方案1】:使用maven插件:
<build>
<plugins>
<plugin>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-surefire-plugin</artifactId>
<version>2.7.1</version>
<configuration>
<parallel>classes</parallel>
<threadCount>5</threadCount>
</configuration>
</plugin>
</plugins>
</build>
【讨论】:
从 junit 4.7 开始,现在可以在不使用 TestNG 的情况下并行运行测试。实际上,从 4.6 开始就有可能,但是在 4.7 中进行了许多修复,这将使其成为一个可行的选择。您还可以使用 spring 运行并行测试,您可以阅读 here
【讨论】:
链接页面显示“对于大多数双核解决方案,使用并行线程运行目前永远不会比运行非线程快”。还是这样吗? 我认为,如果您的测试执行任何 IO,它们仍然会受益。例如,如果您的单元测试更像是集成测试并命中数据库,那么并行运行应该会加快它们的速度。 @Raedwald 不要期望 too 对于简短的非 io 绑定单元测试是我想说的。较新版本的 surefire 也比帖子中描述的 2.5 更好/更有效,因此您可能会得到稍微更好的结果。 你说这是可能的,但你能附上一个链接来解释如何做吗?您的第二个链接是“with spring”,我对此不感兴趣。 @krosenvold 链接?我正在努力寻找一个内置的解决方案。【参考方案3】:受 JUnit 的实验性 ParallelComputer 跑步者的启发,我构建了自己的 ParallelSuite 和 ParallelParameterized 跑步者。使用这些运行器可以轻松并行化测试套件和参数化测试。
ParallelSuite.java
public class ParallelSuite extends Suite
public ParallelSuite(Class<?> klass, RunnerBuilder builder) throws InitializationError
super(klass, builder);
setScheduler(new RunnerScheduler()
private final ExecutorService service = Executors.newFixedThreadPool(4);
public void schedule(Runnable childStatement)
service.submit(childStatement);
public void finished()
try
service.shutdown();
service.awaitTermination(Long.MAX_VALUE, TimeUnit.NANOSECONDS);
catch (InterruptedException e)
e.printStackTrace(System.err);
);
ParallelParameterized.java
public class ParallelParameterized extends Parameterized
public ParallelParameterized(Class<?> arg0) throws Throwable
super(arg0);
setScheduler(new RunnerScheduler()
private final ExecutorService service = Executors.newFixedThreadPool(8);
public void schedule(Runnable childStatement)
service.submit(childStatement);
public void finished()
try
service.shutdown();
service.awaitTermination(Long.MAX_VALUE, TimeUnit.NANOSECONDS);
catch (InterruptedException e)
e.printStackTrace(System.err);
);
用法很简单。只需将 @RunWith 注释值更改为这些 Parallel* 类之一。
@RunWith(ParallelSuite.class)
@SuiteClasses(ATest.class, BTest.class, CTest.class)
public class ABCSuite
【讨论】:
我可以在不提及其名称的情况下为所有测试类并行运行吗?【参考方案4】:tempus-fugit 提供了类似的功能,请查看文档了解详细信息。它依赖于 JUnit 4.7,您只需将测试标记为 @RunWith(ConcurrentTestRunner)
。
干杯
【讨论】:
【参考方案5】:您可以查看开源库 - Test Load Balancer。它完全符合您的要求 - 并行运行不同的测试类。这在 ant-junit 级别集成,因此您无需更改测试。我是图书馆的作者之一。
另外,请考虑不要在线程中运行它们,因为您可能需要进程级沙箱。例如,如果您在集成测试中遇到数据库,您不希望一个测试失败,因为另一个测试在不同的线程中添加了一些数据。大多数时候,编写测试时并没有考虑到这一点。
最后,这个问题是怎么解决的?
【讨论】:
【参考方案6】:TestNG can do that(这是我的第一个反应——然后我看到你已经有很多测试用例了)。
对于 JUnit,请查看 parallel-junit。
【讨论】:
不幸的是,这不是我所问问题的答案。 parallel-junit 仅在单个测试类中运行。 TestNG 也只在一个类中运行,我的测试不是 TestNG 测试。 @PlatinumAzure:我更新了链接。我不知道这个项目是如何维护的。另一个问题最近被问到distribute junit tests execution on several machines。【参考方案7】:您可以使用 Junit 本身提供的 ParallelComputer 并行运行测试。这里有一个小 sn-p 可以帮助您入门。
Class[] cls = TestCase1.class, TestCase2.class ;
Result result = JUnitCore.runClasses(ParallelComputer.classes(), cls);
List<Failure> failures = result.getFailures();
当您需要从代码运行测试时,这会有所帮助,因为它不依赖于 Maven 或任何其他构建管理工具。
请注意,这将并行运行所有测试用例,如果您在不同测试用例之间有任何依赖关系,则可能会导致误报。无论如何,你不应该有相互依赖的测试。
【讨论】:
【参考方案8】:另一个选择:Punner,一个新的并行 junit runner 和 maven 插件。您不必更改代码,将其复制到您的 pom.xml:
<!-- Disable default surefire based testing -->
<plugin>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-surefire-plugin</artifactId>
<version>2.20</version>
<configuration>
<skip>true</skip>
</configuration>
</plugin>
<plugin>
<groupId>com.github.marks-yag</groupId>
<artifactId>punner-maven-plugin</artifactId>
<version>$version</version>
<configuration>
</configuration>
<executions>
<execution>
<id>test</id>
<phase>test</phase>
<goals>
<goal>test</goal>
</goals>
</execution>
</executions>
</plugin>
Punner 可以并行运行测试方法,可以单独保持测试输出并且干净。
Punner 将减少您的 mvn 控制台输出,如下所示:
[INFO] --- punner-maven-plugin:0.9.13:test (test) @ ipc ---
[INFO] Punner report directory: /Users/guile/workspace/ipc/target/punner-reports
[INFO]
[INFO] com.github.yag.ipc.IPCTest.testConnectionHandler.............. PASSED
[INFO] com.github.yag.ipc.IPCTest.testSequence....................... PASSED
[INFO] com.github.yag.ipc.IPCTest.testPartialContent................. PASSED
[INFO] com.github.yag.ipc.IPCTest.testResponseContent................ PASSED
[INFO] com.github.yag.ipc.IPCTest.testPingPong....................... PASSED
[INFO] com.github.yag.ipc.IPCTest.testServerClose.................... PASSED
[INFO] com.github.yag.ipc.IPCTest.testServerSideHeartbeatTimeout..... PASSED
[INFO] com.github.yag.ipc.IPCTest.testClientSideHeartbeatTimeout..... PASSED
[INFO] com.github.yag.ipc.IPCTest.testClientSideHeartbeat............ PASSED
[INFO] com.github.yag.ipc.IPCTest.testClientReconnect................ PASSED
[INFO]
[INFO] Tests run: 10, Failures: 0, Errors: 0, Skipped: 0, Time elapsed: 10.952 sec, Time saved: 25.919 sec.
Punner 产生与万能兼容的输出,您还可以从报告目录中获取原始日志数据和降价格式报告:
➜ ipc git:(develop) ll target/punner-reports
total 104
-rw-r--r-- 1 guile staff 11K Oct 15 23:07 TEST-com.github.yag.ipc.IPCTest.xml
-rw-r--r-- 1 guile staff 298B Oct 15 23:07 com.github.yag.ipc.IPCTest.txt
drwxr-xr-x 12 guile staff 384B Oct 8 00:50 logs
-rw-r--r-- 1 guile staff 33K Oct 15 23:07 report.md
Punner 是我的个人项目,我编写 Punner 是为了加快 IPC 框架、细粒度锁定、日志服务、分布式工作流引擎等其他项目的单元测试阶段。它节省了我很多等待时间。
Punner 还不支持某些高级功能。如果你能尝试一下并给我一些反馈,我很高兴。
【讨论】:
我在查找给定插件或网站的源代码时遇到问题。请添加项目主页的链接。【参考方案9】:您可以在一分钟内将您的测试更改为 TestNg 测试(您只需更改导入),TestNG 是并行测试中最好的。
【讨论】:
【参考方案10】:您可以尝试Gridgain,它可以让您在计算网格中运行分布测试。
【讨论】:
我已经尝试了 GridGain 解决方案并且遇到了两个主要问题。首先,您必须告诉 GridGain 从您的网格任务的类路径中排除 GridGain 也使用的任何内容,例如Spring 和许多 Apache Commons 的东西。其次,网络类加载虽然是一个绝妙的主意,但不适用于想要搜索类路径的库,例如春天以上是关于在 Maven 构建中并行运行 junit 测试?的主要内容,如果未能解决你的问题,请参考以下文章