国产成人AV无码一二三区,少女1到100集,国产精品久久久久精品综合紧,巜公妇之诱感肉欲HD在线播放

文章 > Python爬虫 > Python中的opener()方法是什么

Python中的opener()方法是什么

头像

爱喝马黛茶的安东尼

2019-07-05 13:29:197857浏览 · 0收藏 · 0评论

当我们爬取百度首页的 html时,我们用到的是 urlopen 来打开请求,它是一个特殊的opener(也就是??榘镂颐枪菇ê玫模?。但是基本的 urlopen() 方法不支持代理、cookie等其他的HTTP/HTTPS高级功能,所以我们需要用到 Python 的 opener 来自定义我们的请求内容。

具体步骤:

(1)使用相关的 Handler处理器 来创建特定功能的处理器对象;

(2)然后通过 build_opener()方法使用这些处理器对象,创建自定义opener对象;

(3)使用自定义的opener对象,调用open()方法发送请求。

我们先来回顾一下使用 urlopen 获取百度首页的 html 代码实例:

# 导入urllib 库
import urllib.request

# url 作为Request()方法的参数,构造并返回一个Request对象
request = urllib.request.Request("http://www.baidu.com")
# Request对象作为urlopen()方法的参数,发送给服务器并接收响应
response = urllib.request.urlopen(request)
# 类文件对象支持 文件对象的操作方法,如read()方法读取文件全部内容,返回字符串
html = response.read().decode("utf-8")
# 打印字符串
print(html)

接下来我们看一下使用 opener 的处理方式:

from urllib import request

# 构建一个HTTPHandler 处理器对象,支持处理HTTP请求
http_handler = request.HTTPHandler()

# 构建一个HTTPSHandler 处理器对象,支持处理HTTPS请求
# http_handler = request.HTTPSHandler()

# 调用 request.build_opener()方法,创建支持处理HTTP请求的opener对象
opener = request.build_opener(http_handler)

# 构建 Request请求
request = request.Request("http://www.baidu.com/")

# 调用自定义opener对象的open()方法,发送request请求
response = opener.open(request)

# 获取服务器响应内容
html = response.read().decode("utf-8")
 
# 打印字符串
print(html)

在上面的第一段代码中,我们是通过直接  import urllib.request   来导入我们需要的包,这样当我们要使用时需要   urllib.request   来使用,第二段代码我们是通过  from urllib import request  来导入我们需要的包,这样当我们使用时直接  request 来使用就可以了。

相关推荐:《Python视频教程

第一段代码在前面的文章中我们已经说过了,这里就不多做解释了。

第二段代码中,我们使用了 opener 的方法来处理我们的请求,这样我们就可以对代理,cookie 等做进一步的操作,后续文章会讲到。最终结果如下:

1562304226390254.jpg

在http_handler = request.HTTPHandler()中,我们还可以添加一个  debuglevel=1 参数,会将Debug Log打开,这样程序在执行的时候,会把收包和发包的报头在屏幕上自动打印出来,方便调试,有时可以省去抓包的工作。

代码如下:

from urllib import request

# 构建一个HTTPHandler 处理器对象,支持处理HTTP请求
http_handler = request.HTTPHandler(debuglevel=1)

# 构建一个HTTPHandler 处理器对象,支持处理HTTPS请求
# http_handler = request.HTTPSHandler(debuglevel=1)

# 调用 request.build_opener()方法,创建支持处理HTTP请求的opener对象
opener = request.build_opener(http_handler)

# 构建 Request请求
request = request.Request("http://www.baidu.com/")

# 调用自定义opener对象的open()方法,发送request请求
response = opener.open(request)

# 获取服务器响应内容
html = response.read().decode("utf-8")

# 打印字符串
print(html)

输出结果如下:

1562304237539837.jpg

可以看出在响应结果的时候会为我们打印输出一些请求信息。

关注

关注公众号,随时随地在线学习

本教程部分素材来源于网络,版权问题联系站长!

泳装热舞| 三浦惠理子| 精品久久免费一区二区三区四区| 双乳被四个男人吃奶| 《别告诉我丈夫》播放 | HTTPS://WWW.AP...| 骨科1v1溢奶吸不完怎么办| 空姐4免费高清完整版观看| 《头等舱》韩国电影在线看| 国产区| 法国《监狱伦理3》| 放荡的小峡子2中文字幕| 乖把奶置脱了张开腿H别操我动漫| 出差3| 40岁女人如饥似渴最佳解决方法| 《请好好疼爱里面》免费观看| 老公不在小叔子当老公| 《漂亮的女邻居5》HD| 梦幻西游四门绝阵| 校花被带到阳台狂C躁在线观看 | 绝色儿媳在线观看免费版电视剧 | 主人请好好疼爱里面动画第二季| 双男主高干文小说| 两个人免费完整版在线观看| 第-次和公翁做爰又大又粗| SNH48欧洲码和亚洲码图片| 妈妈你真棒里面的插曲叫什么 | 公交车被上高湖了还能坐吗小说| 适合做前看的MV| 少妇大屁股白浆流出白浆| 亚洲XXX午休国产熟女| 金铃铛| 爸爸经常出差妈妈给我生孩子| 女人被添荫蒂舒服了| 小峡子的味道4| 正常硬度是多硬| 蜜桃成熟 在线| 老师和学生深入交流人生奥秘| 妈妈你真棒里面的插曲叫什么| 美女和帅哥一起努力生产豆浆的视.. | 小妇人在线观看免费版电视剧