爬虫做毕业论文

做爬虫,特别是python写说容易挺容易,说难也挺难的,举个栗子 简单的:将上面的所有代码爬下来写个for循环,调用urllib2的几个函数就成了,基本10行到20行以内的代码难度0情景:1.网站服务器很卡,有些页面打不开,urlopen直接就无限卡死在了某些页面上(2.6以后urlopen有了timeout)2.爬下来的网站出现乱码,你得分析网页的编码3.网页用了gzip压缩,你是要在header里面约定好默认不压缩还是页面下载完毕后自己解压4.你的爬虫太快了,被服务器要求停下来喝口茶5.服务器不喜欢被爬虫爬,会对对header头部浏览器信息进行分析,如何伪造6.爬虫整体的设计,用bfs爬还是dfs爬7.如何用有效的数据结构储存url使得爬过的页面不被重复爬到8.比如1024之类的网站(逃，你得登录后才能爬到它的内容,如何获取cookies以上问题都是写爬虫很常见的,由于python强大的库,略微加了一些代码而已难度1情景:1.还是cookies问题,网站肯定会有一个地方是log out，爬虫爬的过程中怎样避免爬到各种Log out导致session失效2.如果有验证码才能爬到的地方,如何绕开或者识别验证码3.嫌速度太慢,开50个线程一起爬网站数据难度2情景:1.对于复杂的页面,如何有效的提取它的链接,需要对正则表达式非常熟练2.有些标签是用Js动态生成的，js本身可以是加密的,甚至奇葩一点是jsfuck,如何爬到这些难度3总之爬虫最重要的还是模拟浏览器的行为,具体程序有多复杂,由你想实现的功能和被爬的网站本身所决定爬虫写得不多,暂时能想到的就这么多，欢迎补充

这几个课题能看出你也是有很多想法的, 首先支持一下首先, 回购率, 推文对购买的影响, 网络小说吸引, 这些做起来难度非常大, 不是说实现难度大, 而是获取数据的难度比较大, 购买数据, 小说收藏数据， 用户数据是各家互联网厂商的核心资产, 不可能给你拿来做毕设的数据方便唯一能做的目前看就是一些爬虫+数据分析类的, 比如爬取商品评论, 能分析用户偏好, 地域, 通过NLP抽一些关键词, 竞品之间的对比, 竞品之间的用户偏好对比等, 因为评论是公开数据, 至少还是可以做的

大数据不是你这样的想法，你几个课题只是大数据技术做出来的项目，他们不是大数据，而是数据分析下的产物。作为计算机的学生，你没有海量数据可以用来分析处理得出结论，因此你聚焦的反而是大数据技术本身。就离线计算，实时计算，数仓构建等技术运用课题。如何架构设计，采用hadoop，hive，spark，flink等技术搭配实现人物画像，行为预测，智能推荐等技术难点。就此就能出一篇较为优越的毕设。而不是你提出的这些虚头巴老的。好好想想应用场景，进行架构设计，然后就该场景用哪些技术实现，并最终成功得到验证，这样你的毕业论文就完全没问题。

最好不要用,因为最后的论文一般都是从库中提取的,会造成一定的重复率。你可以去中国论文列表找和你论文题目相关的文献做参考

是可以的。如果你使用爬虫来收集数据，你需要在你的论文中提供完整的代码，以便有兴趣的读者能够测试爬取的正确性。你也要在你的论文中提供丰富的注释，以便读者可以理解你的爬虫是如何运行的。