我正试图使用Pytest编写一个动态测试套件,其中测试数据保存在一个单独的文件中,例如YAML文件或.csv。我想运行多个测试,所有这些测试都是从同一个文件中参数化的。假设我有一个测试文件test_foo.py
,它看起来像这样:
import pytest
@pytest.mark.parametrize("num1, num2, output", ([2, 2, 4], [3, 7, 10], [48, 52, 100]))
def test_addnums(num1, num2, output):
assert foo.addnums(num1, num2) == output
@pytest.mark.parametrize("foo, bar", ([1, 2], ['moo', 'mar'], [0.5, 3.14]))
def test_foobar(foo, bar):
assert type(foo) == type(bar)
使用参数化装饰器,我可以在pytest中运行多个测试,这正如预期的那样:
test_foo.py::test_addnums[2-2-4] PASSED
test_foo.py::test_addnums[3-7-10] PASSED
test_foo.py::test_addnums[48-52-100] PASSED
test_foo.py::test_foobar[1-2] PASSED
test_foo.py::test_foobar[moo-mar] PASSED
test_foo.py::test_foobar[0.5-3.14] PASSED
但我想动态地参数化这些测试。我的意思是,我想把所有测试的测试数据写在一个单独的文件中,这样当我运行pytest时,它会把我写的所有测试数据应用到每个测试函数中。假设我有一个YAML文件,看起来像:
test_addnums:
params: [num1, num2, output]
values:
- [2, 2, 4]
- [3, 7, 10]
- [48, 52, 100]
test_foobar:
params: [foo, bar]
values:
- [1, 2]
- [moo, mar]
- [0.5, 3.14]
然后,我想读取这个YAML文件,并使用数据对测试文件中的所有测试函数进行参数化。
我知道pytest_generate_tests
挂钩,我一直在尝试使用它来动态加载测试。我尝试将之前传递给parametrize
装饰器的相同参数和数据值添加到metafunc.parametrize
挂钩中:
def pytest_generate_tests(metafunc):
metafunc.parametrize("num1, num2, output", ([2, 2, 4], [3, 7, 10], [48, 52, 100]))
metafunc.parametrize("foo, bar", ([1, 2], ['moo', 'mar'], [0.5, 3.14]))
def test_addnums(num1, num2, output):
assert foo.addnums(num1, num2) == output
def test_foobar(foo, bar):
assert type(foo) == type(bar)
然而,这不起作用,因为pytest试图将测试数据应用于每个函数:
collected 0 items / 1 error
=============================== ERRORS ================================
____________________ ERROR collecting test_foo.py _____________________
In test_addnums: function uses no argument 'foo'
======================= short test summary info =======================
ERROR test_foo.py
!!!!!!!!!!!!!!! Interrupted: 1 error during collection !!!!!!!!!!!!!!!!
========================== 1 error in 0.16s ===========================
我想知道的是:如何使用pytest动态参数化多个测试?我已经使用pdb内省了pytest,据我所知,metafunc
只知道您在文件中定义的第一个测试。在我上面的例子中,首先定义了test_addnums
,所以当我在pdb调试器中打印vars(metafunc)
时,它会显示以下值:
(Pdb) pp vars(metafunc)
{'_arg2fixturedefs': {},
'_calls': [<_pytest.python.CallSpec2 object at 0x7f4330b6e860>,
<_pytest.python.CallSpec2 object at 0x7f4330b6e0b8>,
<_pytest.python.CallSpec2 object at 0x7f4330b6e908>],
'cls': None,
'config': <_pytest.config.Config object at 0x7f43310dbdd8>,
'definition': <FunctionDefinition test_addnums>,
'fixturenames': ['num1', 'num2', 'output'],
'function': <function test_addnums at 0x7f4330b5a6a8>,
'module': <module 'test_foo' from '<PATH>/test_foo.py'>}
但是,如果我切换test_foobar
和test_addnums
函数,并颠倒parametrize
调用的顺序,它会显示有关test_foobar
的信息。
(Pdb) pp vars(metafunc)
{'_arg2fixturedefs': {},
'_calls': [<_pytest.python.CallSpec2 object at 0x7f6d20d5e828>,
<_pytest.python.CallSpec2 object at 0x7f6d20d5e860>,
<_pytest.python.CallSpec2 object at 0x7f6d20d5e898>],
'cls': None,
'config': <_pytest.config.Config object at 0x7f6d212cbd68>,
'definition': <FunctionDefinition test_foobar>,
'fixturenames': ['foo', 'bar'],
'function': <function test_foobar at 0x7f6d20d4a6a8>,
'module': <module 'test_foo' from '<PATH>/test_foo.py'>}
所以看起来metafunc实际上并没有在我的测试文件中存储关于每个测试函数的信息。因此,我不能使用fixturenames
或function
属性,因为它们只适用于一个特定的函数,而不是所有函数。
如果是这种情况,那么我如何访问所有其他测试函数并单独对它们进行参数化?
您可以使用pytest_generate_tests
来实现这一点,正如您所尝试的,您只需要为每个函数选择正确的参数进行参数化(为了简单起见,我将解析yaml的结果放入全局dict中(:
all_params = {
"test_addnums": {
"params": ["num1", "num2", "output"],
"values":
[
[2, 2, 4],
[3, 7, 10],
[48, 52, 100]
]
},
"test_foobar":
{
"params": ["foo", "bar"],
"values": [
[1, 2],
["moo", "mar"],
[0.5, 3.14]
]
}
}
def pytest_generate_tests(metafunc):
fct_name = metafunc.function.__name__
if fct_name in all_params:
params = all_params[fct_name]
metafunc.parametrize(params["params"], params["values"])
def test_addnums(num1, num2, output):
assert num1 + num2 == output
def test_foobar(foo, bar):
assert type(foo) == type(bar)
以下是相关输出:
$python -m pytest -v param_multiple_tests.py
...
collected 6 items
param_multiple_tests.py::test_addnums[2-2-4] PASSED
param_multiple_tests.py::test_addnums[3-7-10] PASSED
param_multiple_tests.py::test_addnums[48-52-100] PASSED
param_multiple_tests.py::test_foobar[1-2] PASSED
param_multiple_tests.py::test_foobar[moo-mar] PASSED
param_multiple_tests.py::test_foobar[0.5-3.14] PASSED
===================== 6 passed in 0.27s =======================
我认为您在文档中遗漏了pytest_generate_tests
是分别为每个测试调用的。更常见的使用方法是检查fixturename而不是测试名称,例如:
def pytest_generate_tests(metafunc):
if "foo" in metafunc.fixturenames and "bar" in metafunc.fixturenames:
metafunc.parametrize(["foo", "bar"], ...)
我为此编写了一个名为parametrize_from_file
的包。它的工作原理是提供一个装饰器,它基本上做与@pytest.mark.parametrize
相同的事情,只是它从外部文件读取参数。我认为这种方法比摆弄pytest_generate_tests
要简单得多。
以下是它如何查找您上面给出的示例数据。首先,我们需要重新组织数据,使顶层是一个基于测试名称的字典,第二层是测试用例列表,第三层是参数名称到参数值的字典:
test_addnums:
- num1: 2
num2: 2
output: 4
- num1: 3
num2: 7
output: 10
- num1: 48
num2: 52
output: 100
test_foobar:
- foo: 1
bar: 2
- foo: boo
bar: mar
- foo: 0.5
bar: 3.14
接下来,我们只需要将@parametrize_from_file
装饰器应用于测试:
import parametrize_from_file
@parametrize_from_file
def test_addnums(num1, num2, output):
assert foo.addnums(num1, num2) == output
@parametrize_from_file
def test_foobar(foo, bar):
assert type(foo) == type(bar)
这假设@parameterize_from_file
能够在默认位置找到参数文件,该文件与测试脚本具有相同的基本名称(例如test_things.py
的test_things.{yml,toml,nt}
(。但是您也可以手动指定路径。
parametrize_from_file
的一些其他功能值得简要提及,并且通过pytest_generate_tests
:实现会很烦人
- 您可以根据每个测试用例指定id和标记
- 您可以将模式应用于测试用例。我经常用它来
eval
的python代码片段 - 您可以在同一测试函数上同时使用
@parametrize_from_file
和@pytest.mark.parametrize
任意次数 - 如果有关参数文件的任何内容都没有意义(例如组织错误、名称缺失、参数集不一致等(,您将收到良好的错误消息