用 Python 给自己找个合适的妹子

栏目: Python · 发布时间: 5年前

内容简介:来源:Python绿色通道

点击上方“ 开发者技术前线 ”,选择“星标”

12:00 在看 真爱

来源:Python绿色通道

用  <a href='https://www.codercto.com/topics/20097.html'>Python</a>  给自己找个合适的妹子

先上效果图吧,no pic say bird!

古人云: 知己知彼,百战不殆.   好好去了解一下妹子们的内心想法,早日脱单!

这次我在一个某知名婚恋网站,抓取了一些数据,对她们的内心读白进行分析.

我这次筛选条件: 女性,年龄20-30,学历本科 ,就这些条件.

用 Python 给自己找个合适的妹子

3000条妹子内心读白词云如下:

用 Python 给自己找个合适的妹子

放心好了,她们都是追求精神满足而非物质,大部分都是要找生命中的另一半,那她们的另一半会是你吗?

完整代码

# coding=utf-8


from selenium import webdriver
import time
from lxml import etree
import sys

reload(sys)
sys.setdefaultencoding('utf-8')

"""
PEP8 Python编程规范
https://www.douban.com/note/134971609/

"""

# 获取浏览器驱动
driver = webdriver.Firefox()
driver.maximize_window()
webUrl = 'http://www.lovewzly.com/jiaoyou.html'
driver.get(webUrl)

# 等15秒,我来手动做一下筛选条件。,女性,21-30左右,学历本科,\
# 本来想通过js代码,来自动执行,但无奈对js真的不熟,也没有太多时间去整了,凑合看看.
time.sleep(15)

"""
下拉滚动条,从1开始到3结束 分2次加载完每页数据

"""

while True:

for i in range(1, 20):
height = 1000 * i # 每次滑动20000像素
strword = "window.scrollBy(0," + str(height) + ")"
driver.execute_script(strword)
time.sleep(3)

s = etree.HTML(driver.page_source)
selectors = s.xpath('//*[@id="hibox"]/table/tbody/tr/td/div')

with open('内心读白.txt', 'a') as f:
for selector in selectors:
img = selector.xpath('./div[1]/img/@src')
nick = selector.xpath('./div[2]/p[1]/span/text()')
age = selector.xpath('./div[2]/p[2]/span[1]/text()')
height = selector.xpath('./div[2]/p[2]/span[2]/text()')
address = selector.xpath('./div[2]/p[2]/span[3]/text()')
heart = selector.xpath('./div[2]/p[3]/text()')

img = img[0] if len(img) > 0 else ''
nick = nick[0] if len(nick) > 0 else ''
age = age[0] if len(age) > 0 else ''
height = height[0] if len(height) > 0 else ''
address = address[0] if len(address) > 0 else ''
heart = heart[0] if len(heart) > 0 else ''
print nick, age, height, address, heart, img
f.write(heart)

生成词云的代码之前的文章里面有,这里就不展示了,自行前往查阅!

用 Python 给自己找个合适的妹子

用 Python 给自己找个合适的妹子

用 Python 给自己找个合适的妹子

我之前写了一个抓取妹子资料的文章,主要是使用selenium来模拟网页操作,然后使用动态加载,再用xpath来提取网页的资料,但这种方式效率不高。 用Python来找合适的妹子(一)

所以今天我再补一个高效获取数据的办法.由于并没有什么模拟的操作,一切都可以人工来控制,所以也不需要打开网页就能获取数据!

但我们需要分析这个网页,打开网页 http://www.lovewzly.com/jiaoyou.html 后,按F12,进入Network项中

url在筛选条件后,只有page在发生变化,而且是一页页的累加,而且我们把这个url在浏览器中打开,会得到一批json字符串,所以我可以直接操作这里面的json数据,然后进行存储即可!

代码结构图:

用 Python 给自己找个合适的妹子

操作流程:

headers 一定要构建反盗链以及模拟浏览器操作,先这样写,可以避免后续问题!

条件拼装

然后记得数据转json格式

然后对json数据进行提取,

把提取到的数据放到文件或者存储起来

主要学习到的技术:

  1. 学习requests+urllib

  2. 操作execl

  3. 文件操作

  4. 字符串

  5. 异常处理

  6. 另外其它基础

请求数据

def craw_data(self):
'''数据抓取'''
headers = {
'Referer': 'http://www.lovewzly.com/jiaoyou.html',
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/53.0.2785.104 Safari/537.36 Core/1.53.4620.400 QQBrowser/9.7.13014.400'
}
page = 1
while True:

query_data = {
'page':page,
'gender':self.gender,
'starage':self.stargage,
'endage':self.endgage,
'stratheight':self.startheight,
'endheight':self.endheight,
'marry':self.marry,
'salary':self.salary,
}
url = 'http://www.lovewzly.com/api/user/pc/list/search?'+urllib.urlencode(query_data)
print url
req = urllib2.Request(url, headers=headers)
response = urllib2.urlopen(req).read()
# print response
self.parse_data(response)
page += 1

字段提取

   def parse_data(self,response):
'''数据解析'''
persons = json.loads(response).get('data').get('list')
if persons is None:
print '数据已经请求完毕'
return

for person in persons:
nick = person.get('username')
gender = person.get('gender')
age = 2018 - int(person.get('birthdayyear'))
address = person.get('city')
heart = person.get('monolog')
height = person.get('height')
img_url = person.get('avatar')
education = person.get('education')
print nick,age,height,address,heart,education
self.store_info(nick,age,height,address,heart,education,img_url)
self.store_info_execl(nick,age,height,address,heart,education,img_url)

文件存放

  def store_info(self, nick,age,height,address,heart,education,img_url):
'''
存照片,与他们的内心独白
'''

if age < 22:
tag = '22岁以下'
elif 22 <= age < 28:
tag = '22-28岁'
elif 28 <= age < 32:
tag = '28-32岁'
elif 32 <= age:
tag = '32岁以上'
filename = u'{}岁_身高{}_学历{}_{}_{}.jpg'.format(age,height,education, address, nick)

try:
# 补全文件目录
image_path = u'E:/store/pic/{}'.format(tag)
# 判断文件夹是否存在。
if not os.path.exists(image_path):
os.makedirs(image_path)
print image_path + ' 创建成功'

# 注意这里是写入图片,要用二进制格式写入。
with open(image_path + '/' + filename, 'wb') as f:
f.write(urllib.urlopen(img_url).read())

txt_path = u'E:/store/txt'
txt_name = u'内心独白.txt'
# 判断文件夹是否存在。
if not os.path.exists(txt_path):
os.makedirs(txt_path)
print txt_path + ' 创建成功'

# 写入txt文本
with open(txt_path + '/' + txt_name, 'a') as f:
f.write(heart)
except Exception as e:
e.message

execl操作

   def store_info_execl(self,nick,age,height,address,heart,education,img_url):
person = []
person.append(self.count) #正好是数据条
person.append(nick)
person.append(u'女' if self.gender == 2 else u'男')
person.append(age)
person.append(height)
person.append(address)
person.append(education)
person.append(heart)
person.append(img_url)

for j in range(len(person)):
self.sheetInfo.write(self.count, j, person[j])

self.f.save(u'我主良缘.xlsx')
self.count += 1
print '插入了{}条数据'.format(self.count)

源码地址:

https://github.com/pythonchannel/python27/blob/master/test/meizhi.py

开发者技术前线 ,汇集技术前线快讯和关注行业趋势,大厂干货,是开发者经历和成长的优秀指南。

喜欢就点个好看吧


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

PHP程序设计

PHP程序设计

Kevin Tatroe、Rasmus Lerdorf / 邓云佳 / 中国电力出版社 / 2003-7-1 / 68.00

本书涵盖了创建一个高效PHP Web应用程序所需要的所有技术,其内容包括:PHP语言基础的详细信息,包括数据类型、变量、操作符和流控制语句。用专门章节讨论关于函数、字符串、数组和对象的基本内容。涵盖通用的PHP Web应用程序设计技术,如表单处理和验证、会话跟踪以及cookie。用和数据库无关的PEAR DB库与关系数据库(如MySQL和Oracle)进行交互的内容。介绍用PHP生成动态图像、创建一起来看看 《PHP程序设计》 这本书的介绍吧!

图片转BASE64编码
图片转BASE64编码

在线图片转Base64编码工具

XML、JSON 在线转换
XML、JSON 在线转换

在线XML、JSON转换工具

XML 在线格式化
XML 在线格式化

在线 XML 格式化压缩工具