一个人人网python爬虫

background

不知道现在还有多少人在使用人人网,但是在我刚上大学的时候人人网还有开心网还是很火的,然而它们都相继死去了。倒是高中时喜欢玩的QQ空间依旧风生水起。

但是毕竟在人人网上留下了很多东西,将来一不小心人人网关掉了(这种可能我感觉越来越大,毕竟资本市场不会说谎),这些东西丢掉岂不是很可惜?

每天发生的各种琐事,你此时弃之如敝屐,珍之如瑰宝,在不久的将来会化作一串串珍珠,让人凭吊……然而珍珠也会蒙尘,所以还是尽可能地保护吧!

最终代码

RenRenDownload

遇到的一些问题

1.登录

用python实现模拟登录人人网

2.验证码

在登录那篇博客中已提到验证码的问题,实际当中应该是登录时重复多次输错密码导致的。

之后我又发现,在之后爬去好友的个人信息时,人人网对浏览数进行了限制,当对好友的个人页面浏览量累计超过100时,人人网会进行一次验证码识别。

解决思路都是将图片下载下来,将识别后的字符串返回。关于如何确保返回的验证码不是刷新后的新验证码,详见上述博客的最后几段。

3.Python中的中文,Unicode

如果涉及到中文,Python处理字符时经常会报错。
主要学习参考以下几篇博文:

  1. 字符编码笔记:ASCII,Unicode和UTF-8
  2. PYTHON-进阶-编码处理小结
  3. 也谈 Python 的中文编码处理

首先是代码中的编码问题,详见第一篇。
刚开始的英文只需要256个字符编码就可以解决问题,即ASCII,可以说是计算机中最基础的编码了吧,记得大学第一门计算机专业课就对它进行了讲解。
然而除了英文之外还有许多其他字符需要进行编码工作,例如中文。但是没有一种编码方式将这些ASCII编码无法涵盖的字符进行统一规则,知道出现了Unicode。如名字一样,每个字符对应的编码都是独一无二的。
但是Unicode只是一个很大的集合,只规定了符号的二进制代码,而没有规定在计算机中应该如何存储。
后来,随着互联网的发展,需要一种统一的编码方式进行通信,UTF-8就是一种Unicode的编码方式,并且是应用最广的。
以上就是三者的关系。

然后是Python中的编码问题。
我们经常遇到两种类型的字符,一种是str,一种是Unicode。
Python认为Unicode才应该是最基础的编码。所以str变Unicode是str.decode('str的编码方式'),而Unicode变str是Unicode.encode('想要变成的编码方式')。
为了防止意外,理想的情况是,从外界输入进来的字符,统一decode成Unicode,在Python代码中统一使用Unicode,在输出至外界时,再根据所需encode成对应的字符。
另外,在Python代码开头,统一声明# -- coding: utf-8 --表示该代码内部的str编码方式均为utf-8,方便之后进行转换(虽然python本身进行默认转换时,并不会参考该设置)。

如果出错,一般会有两种报错:
UnicodeDecodeError: 'ascii' codec can't decode byte...
UnicodeEncodeError: 'ascii' codec can't encode characters...
有时候是我们写代码时不小心掉入陷阱,有时候则是python使用默认编码规则转换时出错(例如str和Unicode类型进行拼接,或者进行输入输出)。

通过以下代码可以得知当前python使用的编码规则:
impoort sys
sys.getdefaultencoding()
结果是ascii
我们可以将它进行强制设置(不推荐):
reload(sys)
sys.setdefaultencoding('utf-8')
这样的话可以避免一些错误。

不同编码转换时,推荐先decode成Unicode,再encode成最终编码。

同样的道理,如果在控制台上发现读取文件是乱码,可查看下是否是编码方式错误,在数据库中,也同样是道理。

有个库可以进行编码识别:chardet。

4.json

爬取过程中,发现有数据是直接返回的json,有数据是html中的一段但是也是json格式。
一般通过如下进行获取,s表示字符串:
dictinfo = json.loads(content)
但是python的json模块要求key值和value值都用双引号,而人人网返回的数据中,key和value中单引号和双引号都有使用,需要更改。然而有的单引号需要变成双引号,有的不需要(只出现了一次:某个value是一段html,其中有一个链接包含http:,如果更改为双引号,则此冒号会造成误解),所以需要挨个字符进行判断。
导入成功后,就可以使用如下方式进行读取:
dictlinfo[key值]

5.MySQL

简单教程:
MySQL 教程
python操作mysql数据库

使用sql输出table所有项:
select * from table_name into outfile outfile_name.txt

导出表作为原始数据:
在命令行输入
mysqldump -u root -p --tab=directory database_name table_name
其中directory即为导出到的目录

导出sql格式的数据:
在命令行输入
mysqldump -u root -p database_name table_name > output file_name.txt
如果要导出整个database,则去掉上面命令中的table_name。
如果要导出所有database(==备份数据库),则是:
mysqldump -u root -p --all-databases > output file_name.txt

关于在Mysql中使用中文,创建数据库的时候默认的编码方式是latin1,而不是utf-8.
可以通过如下命令来查看对应数据库、表的编码方式:
show create database database_name
show create table table_name
可以通过如下命令来查看创建时使用的默认编码方式:
show variables like '%char%'
如果需要更改,可以执行:
SET NAMES utf8
SET CHARACTER_SET_CLIENT=utf8
SET CHARACTER_SET_RESULTS=utf8
只不过这些设置都是临时的,下次启动后还会还原成原先的情况。

那么要在Mysql中使用中文,首先创建时要设置好编码方式。
数据库默认是latin1:
create database database_name default character set utf8
还需要设置collation即比对方法,合起来如下:
create database database_name default character set utf8 collate utf8_general_ci

同时python连接时也要设置为utf8,可以通过在MySQLdb.connect(**arg)的入参中设置'charset':'utf8'。
另一种方法是连接建立后,执行connect.set_character_set('utf8')。
或者是执行SET NAMES utf8。

参考:
让MySQL支持中文
mysql 中 character set 与 collation 的点滴理解
mysql编码详解


最后再来上一次代码:RenRenDownload

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,233评论 4 360
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,013评论 1 291
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,030评论 0 241
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,827评论 0 204
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,221评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,542评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,814评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,513评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,225评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,497评论 2 244
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,998评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,342评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,986评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,055评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,812评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,560评论 2 271
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,461评论 2 266

推荐阅读更多精彩内容