BeautifulSoup查找元素

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
from bs4 import BeautifulSoup
#获取网页html代码
import urllib.request
import urllib.parse
url='https://blog.xinhaojin.top'
resp=urllib.request.urlopen(url)
data=resp.read()
html=data.decode()
#print(html)

soup=BeautifulSoup(html,'lxml')

#查找第一个title元素
tag=soup.find('title')
print(type(tag),tag)

#查找所有超链接
tags=soup.find_all('a')
for tag in tags:
    print(tag)

#查找class=xxx的div元素
tags=soup.find_all('div',attrs={'class':"entry excerpt entry-summary"})
for tag in tags:
    print(tag)

#查找符合条件的所有类型元素
tags=soup.find_all(name=None,attrs={'class':"entry excerpt entry-summary"})
for tag in tags:
    print(tag)
#获取tag属性值
    print(tag['class'])
#获取元素包含的文本值
    print(tag.text)

#自定义高级查找
def myFilter(tag):
    #print(tag.name)
    #利用class属性查找时,应注意:class为列表,而非字符串
    return (tag.name=='a' and tag.has_attr("href") and tag['href']=="https://blog.xinhaojin.top/2020/08/")

tag=soup.find_all(myFilter)
print(tag)
爬虫 python
BeautifulSoup查找元素
https://xinhaojin.github.io/2021/07/14/beautifulsoup查找元素/
作者
xinhaojin
发布于
2021年7月14日
许可协议