pytest:如何在会话结束时获取所有失败测试的列表?(以及使用 XDIST 时)

Question

我想列出在会话结束时未能使用的所有测试。

Pytest 允许您定义一个钩子pytest_sessionfinish(session, exitstatus)，该钩子在会话结束时调用，我希望在其中拥有该列表。

session是一个具有属性items(类型 list(的_pytest.main.Session实例，但我找不到该列表中的每个item是否传递失败。

1. 如何在会话结束时检索所有失败测试的列表？

2. 使用pytest-xdist插件时如何完成，我想在主进程中获取该列表。使用此插件，session 在 master 中甚至没有items属性：

   def pytest_sessionfinish(session, exitstatus):
       if os.environ.get("PYTEST_XDIST_WORKER", "master") == "master":
            print(hasattr(session, "items"))  # False
   

Answer 1

使用 -rf 运行 pytest 以使其在最后打印失败测试的列表。

从py.test --help ：

  -r chars              show extra test summary info as specified by chars
                        (f)ailed, (E)error, (s)skipped, (x)failed, (X)passed,
                        (p)passed, (P)passed with output, (a)all except pP.
                        Warnings are displayed at all times except when
                        --disable-warnings is set

以下是您得到的：

$ py.test -rf
================= test session starts =================
platform darwin -- Python 3.7.2, pytest-4.3.1, py-1.6.0, pluggy-0.7.1
[...]
=============== short test summary info ===============
FAILED test_foo.py::test_foo_is_flar
FAILED test_spam.py::test_spam_is_mostly_pork
FAILED test_eggs.py::test_eggs_are_also_spam
=== 3 failed, 222 passed, 8 warnings in 12.52 seconds ==

Answer 2

--result-log已被弃用。您可以改为使用 -v 在测试用例运行时输出测试用例名称。如果将其通过管道传输到文件中，则可以对其进行查询。因此，如果您从脚本运行测试，则可以执行以下操作：

pytest -v | tee log.txt
grep -E '::.*(FAILURE|ERROR)' log.txt

Answer 3

如果你想要测试结果，你可以使用钩子runtest_makereport：

@pytest.hookimpl(tryfirst=True, hookwrapper=True)
def pytest_runtest_makereport(item, call):
    outcome = yield
    rep = outcome.get_result()
    if rep.when == 'call' and rep.failed:
        mode = 'a' if os.path.exists('failures') else 'w'
        try:  # Just to not crash py.test reporting
          pass  # the test 'item' failed
        except Exception as e:
            pass

Answer 4

您可以使用命令行选项--result-log：

test_dummy.py：

def test_dummy_success():
    return

def test_dummy_fail():
    raise Exception('Dummy fail')

命令行：

$ py.test --result-log=test_result.txt

test_result.txt的内容

. test_dummy.py::test_dummy_success
F test_dummy.py::test_dummy_fail
 def test_dummy_fail():
 >       raise Exception('Dummy fail')
 E       Exception: Dummy fail
 test_dummy.py:6: Exception

只需在第一列中搜索"F"，之后将是 [文件]：：[测试]

Answer 5

我想要一份失败的测试和参数化变化的简明报告，所以在conftest.py中使用了pytest_terminal_summary：

def pytest_terminal_summary(terminalreporter, exitstatus, config):
    terminalreporter.section('Failed tests')
    failures = [report.nodeid.split('::')[-1]
                for report in terminalreporter.stats.get('failed', [])]
    terminalreporter.write('n'.join(failures) + 'n')

如果您检查terminalreporter._session.items，则可以将更多信息添加到报告中，这正是我想要的。

Answer 6

您可以仅获取失败测试的详细信息，并使用以下命令将日志保存到文件中。日志还包含每个测试的跟踪。

py.test -rf tests/ | tee logs.txt

Answer 7

我访问了这个问题，试图找出session实例的内部数据结构。

循环session.items可以检查测试结果的字符串表示形式rep_call.outcome。

def pytest_sessionfinish(session, exitstatus):
    for item in session.items:
        print('{} {}'.format(item.name, item.rep_call.outcome))

通过琐碎的测试用例，您可以得到这个

test_positive passed
test_negative failed