投稿    登录
  《Python3网络爬虫开发实战》赠书活动正在进行中!详情请戳赠书活动!欢迎参与!非常感谢!

Python爬虫实战一之爬取糗事百科段子

Python 崔庆才 468085浏览 659评论

大家好,前面入门已经说了那么多基础知识了,下面我们做几个实战项目来挑战一下吧。那么这次为大家带来,Python爬取糗事百科的小段子的例子。

首先,糗事百科大家都听说过吧?糗友们发的搞笑的段子一抓一大把,这次我们尝试一下用爬虫把他们抓取下来。

友情提示

糗事百科在前一段时间进行了改版,导致之前的代码没法用了,会导致无法输出和CPU占用过高的情况,是因为正则表达式没有匹配到的缘故。

现在,博主已经对程序进行了重新修改,代码亲测可用,包括截图和说明,之前一直在忙所以没有及时更新,望大家海涵!

更新时间:2015/8/2

糗事百科又又又又改版了,博主已经没心再去一次次匹配它了,如果大家遇到长时间运行不出结果也不报错的情况,请大家参考最新的评论,热心小伙伴提供的正则来修改下吧~

更新时间:2016/3/27

本篇目标

1.抓取糗事百科热门段子

2.过滤带有图片的段子

3.实现每按一次回车显示一个段子的发布时间,发布人,段子内容,点赞数。

糗事百科是不需要登录的,所以也没必要用到Cookie,另外糗事百科有的段子是附图的,我们把图抓下来图片不便于显示,那么我们就尝试过滤掉有图的段子吧。

好,现在我们尝试抓取一下糗事百科的热门段子吧,每按下一次回车我们显示一个段子。

1.确定URL并抓取页面代码

首先我们确定好页面的URL是 http://www.qiushibaike.com/hot/page/1,其中最后一个数字1代表页数,我们可以传入不同的值来获得某一页的段子内容。

我们初步构建如下的代码来打印页面代码内容试试看,先构造最基本的页面抓取方式,看看会不会成功

运行程序,哦不,它竟然报错了,真是时运不济,命途多舛啊

好吧,应该是headers验证的问题,我们加上一个headers验证试试看吧,将代码修改如下

嘿嘿,这次运行终于正常了,打印出了第一页的HTML代码,大家可以运行下代码试试看。在这里运行结果太长就不贴了。

2.提取某一页的所有段子

好,获取了HTML代码之后,我们开始分析怎样获取某一页的所有段子。

首先我们审查元素看一下,按浏览器的F12,截图如下

20150802154147

 

我们可以看到,每一个段子都是<div class=”article block untagged mb15″ id=”…”>…</div>包裹的内容。

现在我们想获取发布人,发布日期,段子内容,以及点赞的个数。不过另外注意的是,段子有些是带图片的,如果我们想在控制台显示图片是不现实的,所以我们直接把带有图片的段子给它剔除掉,只保存仅含文本的段子。

所以我们加入如下正则表达式来匹配一下,用到的方法是 re.findall 是找寻所有匹配的内容。方法的用法详情可以看前面说的正则表达式的介绍。

好,我们的正则表达式匹配语句书写如下,在原来的基础上追加如下代码

现在正则表达式在这里稍作说明

1).*? 是一个固定的搭配,.和*代表可以匹配任意无限多个字符,加上?表示使用非贪婪模式进行匹配,也就是我们会尽可能短地做匹配,以后我们还会大量用到 .*? 的搭配。

2)(.*?)代表一个分组,在这个正则表达式中我们匹配了五个分组,在后面的遍历item中,item[0]就代表第一个(.*?)所指代的内容,item[1]就代表第二个(.*?)所指代的内容,以此类推。

3)re.S 标志代表在匹配时为点任意匹配模式,点 . 也可以代表换行符。

这样我们就获取了发布人,发布时间,发布内容,附加图片以及点赞数。

在这里注意一下,我们要获取的内容如果是带有图片,直接输出出来比较繁琐,所以这里我们只获取不带图片的段子就好了。

所以,在这里我们就需要对带图片的段子进行过滤。

我们可以发现,带有图片的段子会带有类似下面的代码,而不带图片的则没有,所以,我们的正则表达式的item[3]就是获取了下面的内容,如果不带图片,item[3]获取的内容便是空。

所以我们只需要判断item[3]中是否含有img标签就可以了。

好,我们再把上述代码中的for循环改为下面的样子

现在,整体的代码如下

运行一下看下效果

20150802154832

恩,带有图片的段子已经被剔除啦。是不是很开森?

3.完善交互,设计面向对象模式

好啦,现在最核心的部分我们已经完成啦,剩下的就是修一下边边角角的东西,我们想达到的目的是:

按下回车,读取一个段子,显示出段子的发布人,发布日期,内容以及点赞个数。

另外我们需要设计面向对象模式,引入类和方法,将代码做一下优化和封装,最后,我们的代码如下所示

好啦,大家来测试一下吧,点一下回车会输出一个段子,包括发布人,发布时间,段子内容以及点赞数,是不是感觉爽爆了!

我们第一个爬虫实战项目介绍到这里,欢迎大家继续关注,小伙伴们加油!

转载请注明:静觅 » Python爬虫实战一之爬取糗事百科段子

喜欢 (1424)or分享 (0)

想学更多爬虫知识?《Python3网络爬虫开发实战》这本书也许更适合你~

了解详情or立即购买

我的个人微信公众号

扫码或搜索:进击的Coder

进击的Coder

微信公众号 扫一扫关注

想结交更多的朋友吗?

来进击的Coder瞧瞧吧

进击的Coder

QQ群号 99350970 立即加入

进击的Coder灌水太多?

这里是纯粹的技术领地

激进的Coder

QQ群号 627725766 立即加入

您的支持是博主写作最大的动力,如果您喜欢我的文章,感觉我的文章对您有帮助,请狠狠点击下面的

发表我的评论
取消评论
表情

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
(659)个小伙伴在吐槽
  1. 最新正则表达式(作者&年龄&内容&好笑数):.*?<a.*?<img.*?<a.*?(.*?).*?(.*?).*?<a.*?.*?(.*?).*?.*?(.*?)
    lion2018-09-19 11:27 (5天前)回复
  2. 用户名/内容/好笑数/评论数 <div.*?class="author clearfix".*?(.*?).*?class="content".*?(.*?).*?class="stats".*?class="number">(.*?).*?class="number">(.*?)',re.S
    陌生人2018-09-13 15:04 回复
  3. 2018/9/5正则表达式 u'<div class="article block untagged mb15 typs.*?\n(.*?)\n'+ u'.*?\n\n\n\n(.*?)'+ u'.*?(.*?)'+ u'.*?(.*?) 评论',re.S)
    残月飘雪2018-09-05 18:03 回复
    • 能把完整代码发一下吗
      hzd2018-09-09 15:11 回复
  4. I loves [url=https://www.youtube.com/watch?v=ovU7TuvxKA8]human hair wigs[/url]! I recently acquired my 7th just one ! Really durable!
    human hair wigs2018-09-05 01:41 回复
  5. '.*?(.*?).*?(.*?).*?(.*?)' 目前最新的正则匹配,匹配用户名、内容、点赞数
    2192996846@qq.com2018-08-22 15:04 回复
  6. Hi there pleasant website! Gentleman. Great. Outstanding.. koleksi youtube terbaik I am going to bookmark your web site as well as take the rss feeds on top of that? We are pleased to discover many techniques right here while in the distribute, we'd like workout additional tactics during this value, we appreciate you spreading.
    Www.Wakawaka.Id2018-08-16 15:45 回复
  7. My brother proposed I'd personally potentially in this way web site. They ended up being solely perfect kumpulan youtube terfavorit. This particular release absolutely produced the day. You are unable to visualize just how a lot time period I had wasted due to this information! Many thanks!
    HARTS2018-08-09 11:03 回复
1 26 27 28