优草派  >   Python

Python爬虫是什么意思?什么是Python网络爬虫?

翟嘉慧            来源:优草派

python爬虫就是按照一定的规则,自动地去获取网站上面的信息,通常又被称之为Python网络爬虫,对于很多刚刚学习Python爬虫的小伙伴来说,有很多概念性的东西还不是特别的理解,所以这篇文章就是带大家一起学习一下有关Python爬虫是什么意思?什么是Python网络爬虫?感兴趣的小伙伴可以参考一下。

Python爬虫是什么意思?什么是Python网络爬虫?

一、爬虫的概念

如果把互联网上的站点和网络设备看成是一个“网”的话,我们需要通过浏览器去进行访问,将站点中的js、html信息返回给浏览器的,然后再通过对这些信息进行解析,才能将丰富多彩的互联网呈现在我们面前,那么如何去获取这些信息,就是使用的爬虫技巧,将它看成是这个“网”上的蜘蛛,去这个“网”中获取各个网站上中的节点,进行模拟访问数据,将有用的数据爬下来进行保存。

二、爬虫的基本原理

1、发起请求

通常发起一个请求,可以使用request库向站点中发送一个请求,包括请求头和请求体,它只能执行html代码,不能对js和css代码进行执行。

2、获取内容

发起请求之后,是可以去对服务器进行访问的,如果能进行正常的访问时,会得到一个Response,Response可以是一个网页中的文字,也可以是一张图片或者是一段视频。

3、解析内容

解析在网页中获取的数据,如果解析的是html数据的话,可以使用正则表达式中的Beautifulsoup,pyquery等库实现,如果要解析的是json数据,那么要使用到json模块。如果是解析二进制数据:以wb的方式写入文件。

4、保存数据

最后一步就是对数据进行保存了,可以通过数据库来进行操作,使用的最多的数据库有MySQL,Mongdb、Redis

以上就是Python爬虫是什么意思?什么是Python网络爬虫?的详细内容的讲解了,相信大家对Python爬虫都有了一定的了解,想要学习其他的相关知识,可以继续关注进行学习哦!

【原创声明】凡注明“来源:优草派”的文章,系本站原创,任何单位或个人未经本站书面授权不得转载、链接、转贴或以其他方式复制发表。否则,本站将依法追究其法律责任。