毕业论文数据爬取

做爬虫,特别是python写说容易挺容易,说难也挺难的,举个栗子 简单的:将上面的所有代码爬下来写个for循环,调用urllib2的几个函数就成了,基本10行到20行以内的代码难度0情景:1.网站服务器很卡,有些页面打不开,urlopen直接就无限卡死在了某些页面上(以后urlopen有了timeout)2.爬下来的网站出现乱码,你得分析网页的编码3.网页用了gzip压缩,你是要在header里面约定好默认不压缩还是页面下载完毕后自己解压4.你的爬虫太快了,被服务器要求停下来喝口茶5.服务器不喜欢被爬虫爬,会对对header头部浏览器信息进行分析,如何伪造6.爬虫整体的设计,用bfs爬还是dfs爬7.如何用有效的数据结构储存url使得爬过的页面不被重复爬到8.比如1024之类的网站(逃，你得登录后才能爬到它的内容,如何获取cookies以上问题都是写爬虫很常见的,由于python强大的库,略微加了一些代码而已难度1情景:1.还是cookies问题,网站肯定会有一个地方是log out，爬虫爬的过程中怎样避免爬到各种Log out导致session失效2.如果有验证码才能爬到的地方,如何绕开或者识别验证码3.嫌速度太慢,开50个线程一起爬网站数据难度2情景:1.对于复杂的页面,如何有效的提取它的链接,需要对正则表达式非常熟练2.有些标签是用Js动态生成的，js本身可以是加密的,甚至奇葩一点是jsfuck,如何爬到这些难度3总之爬虫最重要的还是模拟浏览器的行为,具体程序有多复杂,由你想实现的功能和被爬的网站本身所决定爬虫写得不多,暂时能想到的就这么多，欢迎补充

毕业论文需要的数据可以从下面几个方面获取：

一、问卷调查。很多文科的同学，用问卷调查的数据比较多，这种数据比较好收集，自己设计一套问卷，去找目标人群收集数据就行了。现在有很多专门的调查问卷的网站和小程序之类的，收集这类数据就简单多了。

二、实验数据。这种数据一般理科的同学用的比较多，通过自己的实验拿到的数据也比较可靠，自己用起来也很有底气。

三、国家和政府公布的数据，这种数据大多都是月度，季度，年度数据。数据范围比较广，官方数据很有说服力，如果是做行业调查之类的很实用，而且也不需要自己收集，直接拿来就可以用，很方便。

四、就是行业数据，行业数据可能来自于行业协会，行业专业网站等等。

五、常用的数据来源网站有：

1、国家统计局，这个网站上的数据比较官方权威。

2、中国旅游研究院，适合一些旅游专业的学生。

3、产业信息网，了解不同产业的收益、市场占额等信息。

4、国土资源部，获取土地资源、矿产资源、海洋资源等自然资源的规划、管理、保护与合理利用等信息。

5、国家企业信用信息公示系统，收集企业的信用信息。

6、中国知网，阅读参考文献的网站。

7、新浪财经，了解全球经济宏观数据。