我正在使用urllib2.request查询Web服务并接收XML。如果我违反了 Web 服务的速率限制(1 次调用/秒),我会收到 HTML 回复,指出我违反了速率限制。
即使我可以在每次调用后 time.sleep() 2-3 秒,无论出于何种原因,我仍然违反了速率限制。
为了测试我的响应是XML还是HTML,我使用xml.dom.minidom(),然后测试是否存在html元素
。try:
dom = xml.dom.minidom.parseString(response_text)
except xml.parsers.expat.ExpatError:
return False
if len(dom.getElementsByTagName('html')) == 0:
return True
else:
return False
这样可以完成工作,但我遇到了其中一个 XML 属性包含 XML 的情况。在这种情况下,parseString() 命令将失败,并显示
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
File "/opt/python/default-2.6/lib/python2.6/xml/dom/minidom.py", line 1918, in parse
return expatbuilder.parse(file)
File "/opt/python/default-2.6/lib/python2.6/xml/dom/expatbuilder.py", line 924, in parse
result = builder.parseFile(fp)
File "/opt/python/default-2.6/lib/python2.6/xml/dom/expatbuilder.py", line 207, in parseFile
parser.Parse(buffer, 0)
xml.parsers.expat.ExpatError: not well-formed (invalid token): line 1, column 3125
在这种情况下,列 3125 是包含 ampamp;and-pound-x-9 的某些属性值文本的一部分(Stackoverflow 隐藏了我的 unicode)。
xml.dom.minidom应该能够处理这个问题吗?除此之外,XML 是否还有其他问题导致解析失败?
此外,如果社区有这种情况,我愿意接受处理此类情况的其他方法。
如果有帮助,以下是 Web 服务在我违反其速率限制时返回的内容:
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<html xmlns="http://www.w3.org/1999/xhtml" xml:lang="en" lang="eng">
<head>
<title>Service Temporarily Unavailable - Rate Limited</title>
</head>
<body style="text-align:center;background-color:white;">
<h1>Service Temporarily Unavailable</h1>
<hr />
<div>
You have used this service too often in a short time. Please wait before using this service again.
<br/><br/>
Please visit the <a href="http://wiki.xxxx.com/index.php?title=API_Usage">wiki</a> for more details.
</div>
</body>
</html>
我认为	
是一个标签。您应该尝试 http://docs.python.org/library/htmllib.html#module-htmlentitydefs 将特殊的 html 实体转换回它们是什么。(这可能有<
等问题)。或者,您可以执行字符串替换,将	
替换为空格。
作为一个建议,当你在解析东西时,解析器遇到问题,比如不适合你的模式,而不是停止操作,你应该允许解析器继续,但发出警告。通过这种方式,您可以看到问题所在,并可能纠正它,或者至少看到存在问题。
另外,关于您的速率限制问题,为什么不缓存一次请求的HTML,以便您可以在本地执行处理。
您还可以在尝试解析结果之前测试字符串的 HTML:
if response_text.lstrip().startswith('<!DOCTYPE html'):
# we received an html response, sleep again
...
我也无法让 minidom 在包含选项卡实体的属性上爆炸。也许它是一个不正确终止的实体序列,就像没有结束分号的	
一样?Minidom 似乎可以与属性中的正确转义实体一起使用:
text = '<root><a href="	foo<">link</a></root>'
tree = minidom.parseString(text)
print tree.toxml()
u'<?xml version="1.0" ?>n<root><a href="tfoo<">link</a></root>'