xml.dom.minidom.parse() 在 XML 属性包含 unicode 时失败



我正在使用urllib2.request查询Web服务并接收XML。如果我违反了 Web 服务的速率限制(1 次调用/秒),我会收到 HTML 回复,指出我违反了速率限制。

即使我可以在每次调用后 time.sleep() 2-3 秒,无论出于何种原因,我仍然违反了速率限制。

为了测试我的响应是XML还是HTML,我使用xml.dom.minidom(),然后测试是否存在html元素

try:
    dom = xml.dom.minidom.parseString(response_text)
  except xml.parsers.expat.ExpatError:
    return False
  if len(dom.getElementsByTagName('html')) == 0:
    return True
  else:
    return False

这样可以完成工作,但我遇到了其中一个 XML 属性包含 XML 的情况。在这种情况下,parseString() 命令将失败,并显示

Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/opt/python/default-2.6/lib/python2.6/xml/dom/minidom.py", line 1918, in     parse
    return expatbuilder.parse(file)
  File "/opt/python/default-2.6/lib/python2.6/xml/dom/expatbuilder.py", line 924, in parse
    result = builder.parseFile(fp)
  File "/opt/python/default-2.6/lib/python2.6/xml/dom/expatbuilder.py", line 207, in parseFile
    parser.Parse(buffer, 0)
xml.parsers.expat.ExpatError: not well-formed (invalid token): line 1, column 3125

在这种情况下,列 3125 是包含 ampamp;and-pound-x-9 的某些属性值文本的一部分(Stackoverflow 隐藏了我的 unicode)。

xml.dom.minidom应该能够处理这个问题吗?除此之外,XML 是否还有其他问题导致解析失败?

此外,如果社区有这种情况,我愿意接受处理此类情况的其他方法。

如果有帮助,以下是 Web 服务在我违反其速率限制时返回的内容:

<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<html xmlns="http://www.w3.org/1999/xhtml" xml:lang="en" lang="eng">
    <head>
        <title>Service Temporarily Unavailable - Rate Limited</title>
    </head> 
    <body style="text-align:center;background-color:white;"> 
        <h1>Service Temporarily Unavailable</h1>
        <hr />
        <div>
            You have used this service too often in a short time.  Please wait before using this service again.
            <br/><br/>
            Please visit the <a href="http://wiki.xxxx.com/index.php?title=API_Usage">wiki</a> for more details.
        </div> 
    </body> 
</html>

我认为&#x9是一个标签。您应该尝试 http://docs.python.org/library/htmllib.html#module-htmlentitydefs 将特殊的 html 实体转换回它们是什么。(这可能有&lt;等问题)。或者,您可以执行字符串替换,将&#x9替换为空格。

作为一个建议,当你在解析东西时,解析器遇到问题,比如不适合你的模式,而不是停止操作,你应该允许解析器继续,但发出警告。通过这种方式,您可以看到问题所在,并可能纠正它,或者至少看到存在问题。

另外,关于您的速率限制问题,为什么不缓存一次请求的HTML,以便您可以在本地执行处理。

您还可以在尝试解析结果之前测试字符串的 HTML:

if response_text.lstrip().startswith('<!DOCTYPE html'):
    # we received an html response, sleep again
...

我也无法让 minidom 在包含选项卡实体的属性上爆炸。也许它是一个不正确终止的实体序列,就像没有结束分号的&#9一样?Minidom 似乎可以与属性中的正确转义实体一起使用:

text = '<root><a href="&#9;foo&lt;">link</a></root>'
tree = minidom.parseString(text)
print tree.toxml()
u'<?xml version="1.0" ?>n<root><a href="tfoo&lt;">link</a></root>'

相关内容

  • 没有找到相关文章

最新更新