远大期望 SQLAlchemy 不将小写列名括起来



我正在尝试使用SQLAlchemy和Great Experts来测试存储在Snowflake DB中的数据集的数据质量。数据集称为candidates,感兴趣的列称为first_name

然而,当我运行时

sql_dataset = great_expectations.dataset.SqlAlchemyDataset(table_name="candidates", engine=engine, schema=creds["schema"])
sql_dataset.expect_column_values_to_be_in_set("first_name", ['Gather', 'Male'])

我得到:

ProgrammingError: (snowflake.connector.errors.ProgrammingError) 002003 (42S02): SQL compilation error:
Object 'KEBOOLA_274.WORKSPACE_48777448.CANDIDATES' does not exist or not authorized.
[SQL: SELECT count(*) AS element_count, sum(CASE WHEN (first_name IS NULL) THEN %(param_1)s ELSE %(param_2)s END) AS null_count, sum(CASE WHEN (first_name NOT IN (%(first_name_1)s, %(first_name_2)s) AND first_name IS NOT NULL) THEN %(param_3)s ELSE %(param_4)s END) AS unexpected_count 
FROM "WORKSPACE_48777448".candidates]
[parameters: {'param_1': 1, 'param_2': 0, 'first_name_1': 'Gather', 'first_name_2': 'Male', 'param_3': 1, 'param_4': 0}]
(Background on this error at: http://sqlalche.me/e/13/f405)

问题是表名称没有用双引号括起来,因此Snowflake正在寻找CANDIDATES而不是candidates。如果找到表,列名也会出现同样的问题。

我测试过

sql_dataset = great_expectations.dataset.SqlAlchemyDataset(table_name=""candidates"",
engine=engine,
schema=creds["schema"])

bu Snowflake正在寻找一张名为KEBOOLA_274.WORKSPACE_48777448.""candidates""的桌子。

我知道SQLAlchemy默认情况下会将小写对象名称视为不区分大小写,因此它不会将名称括起来。请问有什么办法绕过它吗?

我在超导工作,是《远大前程》的开发者。几周前我提交了一个修复程序!现在,您可以在batch_kwargs.中指定use_quoted_name属性。如果将其设置为True,它将把您的表和列名称视为区分大小写,因此访问小写表名应该不会有问题,不过您还需要确保其他表和列的名称的大小写都得到了适当指定。

正如Mike Walton在评论中所建议的,解决方案是在使用great_expectations包之前将所有表名大写。

相关内容

最新更新