我解析网站'http://ok.ru'。为了从post请求中获取数据,我需要发送一个由网站上的Javascript生成的特定令牌,该令牌包含在header中。
所以我想也许一个解决方案是打开网站,让它生成令牌,抓取标题,就是这样。
一个可以实现Java脚本的工具是Selenium,但是,为了获得标题,我需要使用brosermob-proxy(或同等工具)。这就是我卡住的地方。
响应中没有标头,我看不懂。也许用过browsermob的人能看出哪里出了问题?我也很高兴听到我的任务的其他解决方案。代码本身如下:
from browsermobproxy import Server
from selenium import webdriver
from ast import literal_eval
import json, os
os.chdir('C:/browsermob-proxy-2.1.0-beta-2/bin')
server = Server()
server.start()
proxy = server.create_proxy()
profile = webdriver.FirefoxProfile()
profile.set_proxy(proxy.selenium_proxy())
driver = webdriver.Firefox(firefox_profile=profile)
proxy.new_har('test')
driver.get('http://ok.ru')
driver.find_element_by_xpath('//input[@name="st.email"]').send_keys('****@****.com')
driver.find_element_by_xpath('//input[@name="st.password"]').send_keys('****')
driver.find_element_by_xpath(u'//input[contains(@value,"Log in")]').click()
result = literal_eval(json.dumps(proxy.har, ensure_ascii=False))
driver.close()
for entry in result['log']['entries']:
if len(entry['response']['headers']) > 0:
print entry['response']['headers']
答案很简单:只需在new_har:
中添加选项即可。proxy.new_har('test', options={'captureHeaders': True})
然而,在header中没有标记,这对我来说是一个新的难题…