本文实例讲述了python使用自定义user-agent抓取网页的方法。分享给大家供大家参考。具体如下：
下面python代码通过urllib2抓取指定的url的内容，并且使用自定义的user-agent，可防止网站屏蔽采集器
import urllib2
req = urllib2.Request('http://192.168.1.2/')
req.add_header('User-agent', 'Mozilla 5.10')
res = urllib2.urlopen(req)
html = res.read()
希望本文所述对大家的Python程序设计有所帮助。
利用python爬取豆瓣电影Top250的相关信息，包括电影详情链接,图片链接,影片中文名,影片外国名,评分,评价数,概况,导演,主演,年份,地区,类别这12项内容，然后将爬取的信息写入...
本文实例讲述了Python实现的爬取百度文库功能。分享给大家供大家参考，具体如下： # -*- coding: utf-8 -*- from selenium import webd...
我搜集了国内10几个电影网站的数据，里面近几十W条记录，用文本没法存，mongodb学习成本非常低，安装、下载、运行起来不会花你5分钟时间。 # -*- coding: utf-8...
本文实例为大家分享了python3爬取数据至mysql的具体代码，供大家参考，具体内容如下 直接贴代码 #!/usr/local/bin/python3.5 # -*- codin...
本文实例为大家分享了python爬取微信公众号文章的具体代码，供大家参考，具体内容如下 # -*- coding: utf-8 -*- import requests from bs...