本文实例讲述了python使用自定义user-agent抓取网页的方法。分享给大家供大家参考。具体如下：
下面python代码通过urllib2抓取指定的url的内容，并且使用自定义的user-agent，可防止网站屏蔽采集器
import urllib2
req = urllib2.Request('http://192.168.1.2/')
req.add_header('User-agent', 'Mozilla 5.10')
res = urllib2.urlopen(req)
html = res.read()
希望本文所述对大家的Python程序设计有所帮助。
大家可以在Github上clone全部源码。 Github：https://github.com/williamzxl/Scrapy_CrawlMeiziTu Scrapy官方文档：ht...
创建项目 scrapy startproject zhaoping 创建爬虫 cd zhaoping scrapy genspider hr zhaopingwang.com...
本文实例讲述了Python 实现的微信爬虫。分享给大家供大家参考，具体如下： 单线程版： import urllib.request import urllib.parse impo...
所谓网页抓取，就是把URL地址中指定的网络资源从网络流中读取出来，保存到本地。在Python中有很多库可以用来抓取网页，我们先学习urllib2。 urllib2是Python2.x自带...
本文实例为大家分享了python抓取网页中链接的静态图片的具体代码，供大家参考，具体内容如下 # -*- coding:utf-8 -*- #http://tieba.baid...