我们正在尝试使用Azure数据工厂使用REST API连接器从ServiceNow提取数据。
我们已经尝试在ADF中使用特定的ServiceNow连接器,但这并不能很好地实现我们的目的-我们需要使用实际值和显示值,并经常进行小负载,您无法在适当的位置过滤显示,因此速度太慢。
在简单的测试中,RESTneneneba API运行良好,挑战特别在于分页。在初始GET请求之后,ServiceNow API以以下格式返回响应头中的相对链接;
Link →<url>;rel="first",<url>;rel="next",<url>;rel="last"
REST资源数据集有分页规则的设置,文档表明这可以处理——https://learn.microsoft.com/en-us/azure/data-factory/connector-rest#pagination-支持
此通用REST连接器支持以下分页模式:
下一个请求的标头=当前响应标头中的标头值
我们不知道在每次接收到一页数据时,在分页规则键/值中放入什么,以便导航到rel="next"URL。
我们已经尝试了文档中描述的大多数选项——类似这样的选项似乎很接近:
{"paginationRules": {
"AbsoluteUrl": "Headers.['Link']"}
它看起来像是Headers。[链接]部分形成正确,但不够具体。
有人建议过应该在什么样的环境下进行这项工作吗?
如果我的理解是正确的,你想提取第三个<url>作为下一页的URL。链接→<url>;rel="第一",<url>;rel="next",<url>;rel="最后">
在这种情况下,分页规则当前不支持诸如字符串提取之类的表达式。
使用RESTapi,您可以通过将此参数添加到链接来进行分页
&sysparm_offset=10000
如果您想要添加的下限,则限额默认为10000
&sysparm_limit=300
并相应地调整偏移。