使用Beautifulsoup，如何提取未嵌入标签中的信息

Question

我正在尝试解析此页面中的一些选择信息：https://voyage.gc.ca/assistance/ambassades-consulats/acores

更特别的是，我正在尝试提取地址，它就在之后

"<span class="ha-label">Adresse</span>"

和电话号码，就在之后

"<span class="ha-label">Téléphone</span>"

来自以下html摘录：

<p></p><h3>Services locaux</h3><section><details class="ha-office"> <summary>Services d’urgence </summary><div class="mrgn-tp-md mrgn-bttm-md"><p>Composez le 112 pour toute aide d’urgence.</p></div></details></section><h3>Aide consulaire</h3><details class="span-3 ha-office"><summary><strong>Ponta Delgada</strong> - Consulat du Canada</summary><div><span class="ha-label">Adresse</span>Rua D’Agua, 28, 9500-040 Ponta Delgada, São Miguel, Azores, Portugal<span class="ha-label">Téléphone</span>[phone]<span class="ha-label">Télécopieur</span>[phone]<span class="ha-label">Courriel</span><a class="offices" href="mailto:[e-mail]">[e-mail]</a><span class="ha-label">Facebook</span><span class="ha-has-facebook"></span><a href="https://www.facebook.com/CanadaauPortugal/?ref=hl" target="_blank">Ambassade du Canada au Portugal</a><span class="ha-label">Heures d’ouverture :</span>Lundi au vendredi, de 9 h 00 à 12 h 30 et de 14 h à 16 h</div></details><details class="span-3 ha-office"><summary><strong>Lisbonne</strong> - Ambassade du Canada</summary><div><span class="ha-label">Adresse</span>Avenida da Liberdade 198-200, 3e étage, 1269-121, Lisbonne, Portugal<span class="ha-label">Téléphone</span>[phone]<span class="ha-label">Télécopieur</span>[phone]<span class="ha-label">Courriel</span><a class="offices" href="mailto:[e-mail]">[e-mail]</a><span class="ha-label">Internet</span><span class="ha-has-internet"></span><a href="http://www.portugal.gc.ca" target="_blank">www.portugal.gc.ca</a><span class="ha-label">Services</span><span class="ha-text ha-has-passport">Des services de passeport sont offerts</span><span class="ha-label">Facebook</span><span class="ha-has-facebook"></span><a href="https://www.facebook.com/pages/Ambassade-du-Canada-au-Portugal/771363522882326" target="_blank">Ambassade du Canada au Portugal</a></div></details><p>Pour obtenir une aide consulaire d'urgence, téléphonez à l'ambassade du Canada à Lisbonne et suivez les instructions qui vous seront données. À tout moment, vous pouvez aussi communiquer avec le <a href="http://voyage.gc.ca/assistance/assistance-d-urgence">Centre de surveillance et d'intervention d’urgence</a> à Ottawa.</p><p></p>

既然我要查找的内容没有嵌入到标签中，我该如何访问这些数据？

如果它有助于放置一些上下文，以下是我迄今为止的代码：

data, links = parser.getLinks("https://voyage.gc.ca/assistance/ambassades-consulats/" + p)
soup = BeautifulSoup(data, "lxml")
for x in soup.findAll('h3'):
if 'Aide consulaire' in x:
for y in soup.find("span", {"class": "ha-label"}):  
print (y)

Answer 1

这将从页面上的所有"领事助理"获得信息：

from bs4 import BeautifulSoup, NavigableString
import requests
from pprint import pprint
r = requests.get('https://voyage.gc.ca/assistance/ambassades-consulats/acores')
soup = BeautifulSoup(r.text, 'lxml')
d = {}
for details in soup.select('details'):
d2 = {}
d[details.select_one('summary').text] = d2
for label in details.select('.ha-label'):
d2[label.text] = label.nextSibling if isinstance(label.nextSibling, NavigableString) else label.nextSibling.text
if not d2[label.text]:
del d2[label.text]
pprint(d)

打印：

{'Lisbonne - Ambassade du Canada': {'Adresse': 'Avenida da Liberdade 198-200, '
'3e étage, 1269-121, Lisbonne, '
'Portugal',
'Courriel': '[e-mail]',
'Services': 'Des services de passeport '
'sont offerts',
'Télécopieur': '[phone]',
'Téléphone': '[phone]'},
'Ponta Delgada - Consulat du Canada': {'Adresse': 'Rua D’Agua, 28, 9500-040 '
'Ponta Delgada, São Miguel, '
'Azores, Portugal',
'Courriel': '[e-mail]',
'Heures d’ouverture :': 'Lundi au '
'vendredi, de '
'9 h 00 à 12 h '
'30 et de 14 h '
'à 16 h',
'Télécopieur': '[phone]',
'Téléphone': '[phone]'},
'Services d’urgence ': {}}

获取每位助理领事的地址和电话：

for k, v in d.items():
print(k)
print(v.get('Adresse', '-'))
print(v.get('Téléphone', '-'))
print('-' * 80)

打印：

Services d’urgence 
-
-
--------------------------------------------------------------------------------
Ponta Delgada - Consulat du Canada
Rua D’Agua, 28, 9500-040 Ponta Delgada, São Miguel, Azores, Portugal
[phone]
--------------------------------------------------------------------------------
Lisbonne - Ambassade du Canada
Avenida da Liberdade 198-200, 3e étage, 1269-121, Lisbonne, Portugal
[phone]
--------------------------------------------------------------------------------

Answer 2

使用nextSibling

例如：

from bs4 import BeautifulSoup
html = """<p></p><h3>Services locaux</h3><section><details class="ha-office"> <summary>Services d’urgence </summary><div class="mrgn-tp-md mrgn-bttm-md"><p>Composez le 112 pour toute aide d’urgence.</p></div></details></section><h3>Aide consulaire</h3><details class="span-3 ha-office"><summary><strong>Ponta Delgada</strong> - Consulat du Canada</summary><div><span class="ha-label">Adresse</span>Rua D’Agua, 28, 9500-040 Ponta Delgada, São Miguel, Azores, Portugal<span class="ha-label">Téléphone</span>[phone]<span class="ha-label">Télécopieur</span>[phone]<span class="ha-label">Courriel</span><a class="offices" href="mailto:[e-mail]">[e-mail]</a><span class="ha-label">Facebook</span><span class="ha-has-facebook"></span><a href="https://www.facebook.com/CanadaauPortugal/?ref=hl" target="_blank">Ambassade du Canada au Portugal</a><span class="ha-label">Heures d’ouverture :</span>Lundi au vendredi, de 9 h 00 à 12 h 30 et de 14 h à 16 h</div></details><details class="span-3 ha-office"><summary><strong>Lisbonne</strong> - Ambassade du Canada</summary><div><span class="ha-label">Adresse</span>Avenida da Liberdade 198-200, 3e étage, 1269-121, Lisbonne, Portugal<span class="ha-label">Téléphone</span>[phone]<span class="ha-label">Télécopieur</span>[phone]<span class="ha-label">Courriel</span><a class="offices" href="mailto:[e-mail]">[e-mail]</a><span class="ha-label">Internet</span><span class="ha-has-internet"></span><a href="http://www.portugal.gc.ca" target="_blank">www.portugal.gc.ca</a><span class="ha-label">Services</span><span class="ha-text ha-has-passport">Des services de passeport sont offerts</span><span class="ha-label">Facebook</span><span class="ha-has-facebook"></span><a href="https://www.facebook.com/pages/Ambassade-du-Canada-au-Portugal/771363522882326" target="_blank">Ambassade du Canada au Portugal</a></div></details><p>Pour obtenir une aide consulaire d'urgence, téléphonez à l'ambassade du Canada à Lisbonne et suivez les instructions qui vous seront données. À tout moment, vous pouvez aussi communiquer avec le <a href="http://voyage.gc.ca/assistance/assistance-d-urgence">Centre de surveillance et d'intervention d’urgence</a> à Ottawa.</p><p></p>"""
soup = BeautifulSoup(html, "html.parser")
print(soup.find("span", text="Adresse").nextSibling)
print(soup.find("span", text="Téléphone").nextSibling)

输出：

Rua D’Agua, 28, 9500-040 Ponta Delgada, São Miguel, Azores, Portugal
[phone]