Python网络爬虫从入门到精通
上QQ阅读APP看书,第一时间看更新

5.1 请求方式

由于requests模块为第三方模块,所以在使用requests模块时需要通过执行pip install requests代码进行该模块的安装。requests功能特性如下。

 Keep-Alive &连接池。

 国际化域名和URL。

 带持久Cookie的会话。

 浏览器式的SSL认证。

 自动内容解码。

 基本/摘要式的身份认证。

 优雅的key/value Cookie。

 自动解压。

 Unicode响应体。

 HTTP(S)代理支持。

 文件分块上传。

 流下载。

 连接超时。

 分块请求。

 支持.netrc。

说明

如果使用了Anaconda,则不需要单独安装requests模块。

5.1.1 GET请求

【例5.1】 实现不带参数的GET网络请求。(实例位置:资源包\Code\05\01)

最常用的HTTP请求方式分别为GET和POST,在使用requests模块实现GET请求时可以使用两种方式来实现,一种带参数,另一种为不带参数,以百度为例实现不带参数的网络请求。代码如下:

程序运行结果如图5.1所示。

图5.1 实现不带参数的网络请求

5.1.2 对响应结果进行utf-8编码

【例5.2】 获取请求地址所对应的网页源码。(实例位置:资源包\Code\05\02)

当响应状态码为200时说明本次网络请求已经成功,此时可以获取请求地址所对应的网页源码,代码如下:

程序运行结果如图5.2所示。

图5.2 获取请求地址所对应的网页源码

注意

在没有对响应内容进行utf-8编码时,网页源码中的中文信息可能会出现如图5.3所示的乱码。

图5.3 中文乱码

5.1.3 爬取二进制数据

【例5.3】 下载百度首页中的logo图片。(实例位置:资源包\Code\05\03)

使用requests模块中的get函数不仅可以获取网页中的源码信息,还可以获取二进制文件。但是在获取二进制文件时,需要使用Response.content属性获取bytes类型的数据,然后将数据保存在本地文件中。例如下载百度首页中的logo图片即可使用如下代码:

程序运行后打印的二进制数据如图5.4所示。程序运行后,当前目录下将自动生成如图5.5所示的“百度logo.png”图片。

图5.4 打印的二进制数据

图5.5 百度logo图片

5.1.4 GET(带参)请求

1.实现请求地址带参

如果需要为GET请求指定参数时,则可以直接将参数添加在请求地址URL的后面,然后用问号(?)进行分隔,如果一个URL地址中有多个参数,参数之间用(&)进行连接。GET(带参)请求代码如下:

程序运行结果如图5.6所示。

图5.6 输出的响应结果

说明

这里通过http://httpbin.org/get网站进行演示,该网站可以作为练习网络请求的一个站点使用,该网站可以模拟各种请求操作。

2.配置params参数

requests模块提供了传递参数的方法,允许使用params关键字参数,以一个字符串字典来提供这些参数。例如,想传递key1=value1和key2=value2到httpbin.org/get,那么可以使用如下代码:

程序运行结果如图5.7所示。

图5.7 输出的响应结果

5.1.5 POST请求

【例5.4】 实现POST请求。(实例位置:资源包\Code\05\04)

POST请求方式也叫作提交表单,表单中的数据内容就是对应的请求参数。使用requests模块实现POST请求时需要设置请求参数data。POST请求的代码如下:

程序运行结果如图5.8所示。

图5.8 输出的响应结果

说明

POST请求中data参数的数据格式也可以是列表、元组或者是JSON。参数代码如下:

注意

requests模块中GET与POST请求的参数分别是params和data,所以不要将两种参数填写错误。