内容简介:这篇文章主要介绍了Python数据分析之获取双色球历史信息的方法,涉及Python网页抓取、正则匹配、文件读写及数值运算等相关操作技巧,需要的朋友可以参考下
本文实例讲述了 Python 数据分析之获取双色球历史信息的方法。分享给大家供大家参考,具体如下:
每个人都有一颗中双色球大奖的心,对于技术人员来说,通过技术分析,可以增加中奖几率,现使用python语言收集历史双色球中奖信息,之后进行预测分析。
说明:采用2016年5月15日获取的双色球数据为基础进行分析,总抽奖数1940次。
初级代码,有些内容比较繁琐,有更好的代码,大家可以分享。
#!/usr/bin/python # -*- coding:UTF-8 -*- #coding:utf-8 #author:levycui #date:20160513 #Description:双色球信息收集 import urllib2 from bs4 import BeautifulSoup #采用BeautifulSoup import os import re #伪装成浏览器登陆,获取网页源代码 def getPage(href): headers = { 'User-Agent':'Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US; rv:1.9.1.6) Gecko/20091201 Firefox/3.5.6' } req = urllib2.Request( url = href , headers = headers ) try: post = urllib2.urlopen(req) except urllib2.HTTPError,e: print e.code print e.reason return post.read() #初始化url 双色球首页 url = 'http://kaijiang.zhcw.com/zhcw/html/ssq/list_1.html' #=============================================================================== #获取url总页数 def getPageNum(url): num =0 page = getPage(url) soup = BeautifulSoup(page) strong = soup.find('td',colspan='7') # print strong if strong: result = strong.get_text().split(' ') # print result list_num = re.findall("[0-9]{1}",result[1]) # print list_num for i in range(len(list_num)): num = num*10 + int(list_num[i]) return num else: return 0 #=============================================================================== #获取每页双色球的信息 def getText(url): for list_num in range(1,getPageNum(url)): #从第一页到第getPageNum(url)页 print list_num #打印下页码 href = 'http://kaijiang.zhcw.com/zhcw/html/ssq/list_'+str(list_num)+'.html' #调用新url链接 # for listnum in len(list_num): page = BeautifulSoup(getPage(href)) em_list = page.find_all('em') #匹配em内容 div_list = page.find_all('td',{'align':'center'}) #匹配 <td align=center>这样的内容 #初始化n n = 0 #将双色球数字信息写入num.txt文件 fp = open("num.txt" ,"w") for div in em_list: emnum1 = div.get_text() # print emnum1 text = div.get_text() text = text.encode('utf-8') #print title n=n+1 if n==7: text = text + "\n" n=0 else: text = text + "," fp.write(str(text)) fp.close() #将日期信息写入date.txt文件 fp = open("date.txt" ,"w") for div in div_list: text = div.get_text().strip('') # print text list_num = re.findall('\d{4}-\d{2}-\d{2}',text) list_num = str(list_num[::1]) list_num = list_num[3:13] if len(list_num) == 0: continue elif len(list_num) > 1: fp.write(str(list_num)+'\n') fp.close() #将num.txt和date.txt文件进行整合写入hun.txt文件中 #格式如下: #('2016-05-03', '09,12,24,28,29,30,02') #('2016-05-01', '06,08,13,14,22,27,10') #('2016-04-28', '03,08,13,14,15,30,04') # fp01 = open("date.txt","r") a=[] for line01 in fp01: a.append(line01.strip('\n')) # print a fp01.close() fp02 = open("num.txt","r") b=[] for line02 in fp02: b.append(line02.strip('\n')) # print b fp02.close() fp = open("hun.txt" ,"a") for cc in zip(a,b): #使用zip方法合并 print cc fp.write(str(cc) + '\n') fp.close() #=============================================================================== if __name__=="__main__": pageNum = getPageNum(url) print pageNum getpagetext = getText(url) print getpagetext
数据样例:
('2015-03-03', '09,11,16,18,23,24,10') ('2015-03-01', '08,09,10,13,29,30,01') ('2015-02-26', '04,07,10,16,23,25,10')
更多关于Python相关内容感兴趣的读者可查看本站专题:《Python数学运算技巧总结》、《Python字符串操作技巧汇总》、《Python编码操作技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总》
希望本文所述对大家Python程序设计有所帮助。
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网
猜你喜欢:- 数据分析是什么,如何完善数据分析知识体系
- 大数据分析工程师入门(二十):数据分析方法
- 蚂蚁数据分析平台的演进及数据分析方法的应用
- 数据分析的准备工作:从问题分析到数据清洗
- 数据分析:基于智能标签,精准管理数据
- [译] 每位数据分析师应该要知道的基本数据分析技术
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。
反应式设计模式
Roland Kuhn、Brian Hanafee、Jamie Allen / 何品、邱嘉和、王石冲、林炜翔审校 / 清华大学出版社 / 2019-1-1 / 98.00 元
《反应式设计模式》介绍反应式应用程序设计的原则、模式和经典实践,讲述如何用断路器模式将运行缓慢的组件与其他组件隔开、如何用事务序列(Saga)模式实现多阶段事务以及如何通过分片模式来划分数据集,分析如何保持源代码的可读性以及系统的可测试性(即使在存在许多潜在交互和失败点的情况下)。 主要内容 ? “反应式宣言”指南 ? 流量控制、有界一致性、容错等模式 ? 得之不易的关于“什么行不通”的经验 ? ......一起来看看 《反应式设计模式》 这本书的介绍吧!