python的爬虫包beautifulsoup中用正则表达式来搜索

beautiful soup使用时,一般可以通过指定对应的name和attrs去搜索,特定的名字和属性,以找到所需要的部分的html代码。

但是,有时候,会遇到,对于要处理的内容中,其name或attr的值,有多种可能,尤其是符合某一规律,此时,就无法写成固定的值了。

所以,就可以借助正则表达式来解决此问题。
比如,

crifan

对应的beautifulsoup代码如下:

h1usersoup = soup.find(name=”h1″, attrs={“class”:”h1user”});

而如果html是这种:

crifan
crifan 123
crifan 456

那么想要一次性地找到所有的,符合条件的h1的部分的代码,则之前的写法,就只能找到单个的的部分,剩下的两个

就找不到了。

那么,此时,就可以用到,beautifulsoup中非常好用的,非常强大的功能:

attrs中支持正则表达式的写法

了。

就可以写成:

h1usersouplist = soup.findall(name=”h1″, attrs={“class”:re.compile(r”h1user(\s\w+)?”)});

就可以一次性地,找到:

了。

之类的标签,xxx的内容未知(可变)的前提下

想要查找到对应的此p标签,之前不知道如何实现。
如果写成:

sopu.findall(“p”, attrs={“aria-lable”: “xxx”});

则xxx必须写出来,如果不写出来属性值,也就没法用上attrs了,就没法实现此处查找特性属性值的标签了。
所以针对:

747 份评分

可以通过:

soup.findall(“p”, attrs={“aria-lable”: true});

去查找到属性包含aria-lable的p标签的。

所以,对于上面的,之前不知道如何处理:

用beautifulsoup查找未知属性值,但是已知属性的名字的标签

则此处,就可以针对:

去用:

sopu.findall(“p”, attrs={“aria-lable”: true});

就可以查找到对应的包含属性aria-lable的p标签了。

Posted in 未分类

发表评论