Python爬虫天气预报（小白入门）

分析网站

首先来到目标数据的网页 http://www.weather.com.cn/weather40d/101280701.shtml

中国天气网

JS请求

再来看看Response是怎样的吧

response

真是没想到，返回的居然是json格式的天气数据！直接做 json 反序化就能变成字典的形式，省掉了我们解析 html 的麻烦呀。既然找到了数据所在的地方，就可以开始尝试构建请求了。

构建请求

这是因为这是浏览器发出请求时，会通过Referer告诉服务器我是从哪个页面链接过来的，有些网站会对这个做验证，主要时为了防止别人盗链的问题。

这个中国天气网，就是验证了Referer里的域名是不是自己的，不是的话就会403禁止访问服务器。

接下来就要考虑怎么请求不同月份的数据。

通过观察URL，发现其实很简单，直接替换年月，就可以循环抓取，得到整年的数据。

那中间的101280701是什么意思呢，经过请求不同的城市对比URL，我发现这是表示地理位置的一个数据。

前3位表示国家中国，后6位依次表示，省份，城市和区县。修改这里，就能实现对不同城市进行查询了。

最后一个参数1495720234075，开始以为是随机数，后来有朋友提醒这是unix时间戳，实际上就算去掉这个，也能正常访问数据，没什么影响。

解析数据

保存数据

因为数据量比较大，就采用 mongodb 来做数据持久化。mongodb 我也是才学习，参考了别人的教程，才做好了环境配置，过程打算总结到另一篇，这里就打算不多说了。

因为原本的放了天气数据的字典里面有太多没用的数据，我只想提取出我想要的部分，就用了一个小技巧。

将想要的数据的key，保存成subkey这个字典，用 for in取出subkey中的key，再回到原本的dict中取出对应的值，最后将这些键值对，都存储在一个subdict字典里，就完成了提取出子字典的功能。说起来很麻烦，但是代码却很简单，这可能就是python的魅力吧。

subkey = {'date', 'hmax', 'hmin', 'hgl', 'fe', 'wk', 'time'}
subdict = {key: dict[key] for key in subkey}

然后我还做了个用中文替换的原来key的功能，只需要稍作修改，for in 取出来的是键值对，然后用中文的value，替换英文的key，就ok了。

subkey = {'date': '日期', 'hmax': '最高温度', 'hmin': '最低温度', 'hgl': '降水概率', 'fe': '节日', 'wk': '星期'}
 subdict = {value: dict[key] for key, value in subkey.items()}

最后的结果如下图，这是用pycharm上的mongodb可视化插件Mongo Plugin看到的,在pycharm>settings>plugins里面可以搜索安装。需要注意的是，默认只显示300条数据。想要看到更多，就在Row limit 上输入总数就行。

天气数据.png

Python的代码非常短才30多行，就完成了爬虫的整个流程， 请求，解析，保存，一气呵成，可谓是爬虫界的豪杰。

# encoding=utf-8
import requests
import json
import pymongo
import time

def request(year, month):
    url = "http://d1.weather.com.cn/calendar_new/" + year + "/101280701_" + year + month + ".html?_=1495685758174"
    headers = {
        "User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/50.0.2661.102 Safari/537.36",
        "Referer": "http://www.weather.com.cn/weather40d/101280701.shtml",
    }
    return requests.get(url, headers=headers)

def parse(res):
    json_str = res.content.decode(encoding='utf-8')[11:]
    return json.loads(json_str)

def save(list):
    subkey = {'date': '日期', 'hmax': '最高温度', 'hmin': '最低温度', 'hgl': '降水概率', 'fe': '节日', 'wk': '星期', 'time': '发布时间'}
    for dict in list:
        subdict = {value: dict[key] for key, value in subkey.items()}   #提取原字典中部分键值对，并替换key为中文
        forecast.insert_one(subdict)                                    #插入mongodb数据库

if __name__ == '__main__':
    year = "2016"
    month = 1
    client = pymongo.MongoClient('localhost', 27017)   # 连接mongodb,端口27017
    test = client['test']                              # 创建数据库文件test
    forecast = test['forecast']                        # 创建表forecast
    for i in range(month, 13):
        month = str(i) if i > 9 else "0" + str(i)      #小于10的月份要补0
        save(parse(request(year, month)))             
        time.sleep(1)

学习过程中遇到什么问题或者想获取学习资源的话，欢迎加入学习交流群

626062078，我们一起学Python！