python数据挖掘（data mining，简称DM），是指从大量的数据中，通过统计学、人工智能、机器学习等方法，挖掘出未知的、且有价值的信息和知识的过程。数据分析通常是直接从数据库取出已有信息，进行一些统计、可视化、文字结论等，最后可能生成一份研究报告性质的东西，以此来辅助决策。数据挖掘不是简单的认为推测就可以，它往往需要针对大量数据，进行大规模运算，才能得到一些统计学规律。
这里可以使用CDA一站式数据分析平台，融合了数据源适配、ETL数据处理、数据建模、数据分析、数据填报、工作流、门户、移动应用等核心功能。其中数据分析模块支持报表分析、敏捷看板、即席报告、幻灯片、酷屏、数据填报、数据挖掘等多种分析手段对数据进行分析、展现、应用。帮助企业发现潜在的信息，挖掘数据的潜在价值。
如果你对于Python学数据挖掘感兴趣的话，推荐CDA数据分析师的课程。课程内容兼顾培养解决数据挖掘流程问题的横向能力以及解决数据挖掘算法问题的纵向能力。真正理解商业思维，项目思维，能够遇到问题解决问题；要求学生在使用算法解决微观根因分析、预测分析的问题上，根据业务场景来综合判断，洞察数据规律，使用正确的数据清洗与特征工程方法，综合使用统计分析方法、统计模型、运筹学、机器学习、文本挖掘算法，而非单一的机器学习算法。点击预约免费试听课。
给师弟师妹们学习数据挖掘的一些建议
看着刚进实验室的师弟师妹们的迷茫，虽然也与他们进行过一些零散的交谈，但是都不够系统。因此，根据自己的经历给出学习数据挖掘的一些建议，大家可以根据自身的情况，具体问题具体分析，作为参考。希望在上一届的基础上，走的更深，走的更远。
一. 读研与数据挖掘基础
首先介绍一下大家都比较关心的几个问题，包括我们组的研究方向是什么，论文相关问题，大数据与工作相关问题，上海户口问题几个方面。
1. 我们组的研究方向是什么
我们组大的研究方向是数据挖掘，论文的研究方向是推荐算法。要注意大的研究方向，论文的研究方向与工作方向的区别和联系。
2. 论文相关问题
读研究生免不了会思考一个问题，读研的意义是什么？我自己认为读研的最大意义是训练自己系统化的严谨的分析思维能力。在导师给定论文研究方向后，如何确立更细的研究方向，如何检索资料，如何阅读英文论文，如何提出自己的创新点，如何做实验，如何写论文，如何修改论文，如何投稿，如何退修，如果是国际会议，还要去做英文口头报告，与同行交流等，这些问题都是需要自己去思考的。
3. 大数据与工作相关问题
数据挖掘属于大数据专业吗？当然属于。现在大数据找工作相对还是比较理想的。关键是要学习哪些课程呢？以前给大家推荐了很多的书籍，但是效果却恰恰相反，因为实在太多了根本看不完，更不知阅读书籍的顺序，浅尝辄止，最后一本书也没有看完，研究生就结束了。
（1）最低保障书籍
无论将来做什么，熟练掌握一门编程语言，一个数据库，数据结构，算法都是必备的。
《高性能MySQL》
《数据结构与算法分析：Java语言描述》
《算法》：
（2）Python与机器学习
《集体智慧编程》
《社交网站的数据挖掘与分析》
《数据挖掘：概念与技术》
Python官方文档：
Scikit-Learn官方文档：
（3）Java相关书籍
《Java开发实战经典》
《Java Web开发实战经典》
《Java虚拟机规范》
Java SE：
Java EE：
（4）Hadoop与Spark书籍
《大数据日知录：架构与算法》
《Hadoop权威指南》
《大数据Spark企业级实战》
《Scala编程》
Hadoop官方网站：
Spark官方网站：
Scala官方网站：
说明：认准目标，耐住性子，一步一步往前走。要把上面推荐的书籍硬着头皮读完，数据挖掘基本也就算是入门了。
4. 上海户口问题
上海户口属于积分制，如果想要在校期间就拿到，那么唯一的方式就是参数每年的研究生数据建模比赛，并且获奖。获奖比例还是很高的。其实，好好学习Python，买本数学建模的书籍看完，看几篇近些年来的获奖论文，比赛时硬着头皮钻研一道题目并且写好论文，基本上都可以获奖。
二. 数据挖掘进阶
数据挖掘涉及多个方向，但是通常从数学统计，数据库和数据仓库，机器学习三个方向来进行研究。当我想学习一个方向的时候，最希望做的事情就是让别人给我列出一个书单。因为我也会给你们列出一个书单，让你们慢慢研究吧。
1. 数学统计
（1）理论数学：复变函数，实变函数，泛函分析，拓扑学，积分变换，微分流形，常微分方程，偏微分方程等。
（2）应用数学：离散数学（集合，逻辑，组合，代数，图论，数论），具体数学，张量分析，数值计算，矩阵论，逼近论，运筹学，凸优化，小波变换，时间序列分析等。
（3）概率：概率论，测度论，随机过程等。
（4）统计：统计学，多元统计，贝叶斯统计，统计模拟，非参数统计，参数统计等。
2. 数据库和数据仓库
《数据库系统概念》
《数据库系统实现》
《数据仓库》
《分布式系统：概念与设计》
3. 机器学习
通信原理；数据挖掘；机器学习；统计学习；自然语言处理；信息检索；模式识别；人工智能；图形图像；机器视觉；语音识别；机器人学等。（这方面的经典书籍都可以看看，后面慢慢补充）
4. 其它书籍
（1）Linux
（2）网络原理，编译原理，组成原理，
（3）JVM
（4）UML
（5）软件工程
（6）设计模式
（7）云计算与Docker
（8）并行计算
（9）需求分析
三. 学习与方法
作为一名软件工程师，需要熟练掌握的工具，如下所示：
（1）博客
除了学习之外，更要思考和总结，把还没有忘却的记忆缓存序列化成为文字，记录在博客中。
（2）语言
大数据常用的语言包括Java，Scala，Python。如果一定要选择精通一门语言，自己选择Scala，同时深度学习JVM。（3）开发工具
自己选择IntelliJ IDEA用于Java和Scala的开发，Eclipse用于Python的开发。
（4）GitHub
每天都要坚持编程，主动参与开源项目。
（5）Linux
工作常用的是Ubuntu 12.04 LTS。
由于时间原因，上面总结的还比较粗糙，算是第一个版本吧，后面还会继续深度总结和完善。
如何用Python进行大数据挖掘和分析？快速入门路径图
大数据无处不在。在时下这个年代，不管你喜欢与否，在运营一个成功的商业的过程中都有可能会遇到它。
什么是 大数据 ？
大数据就像它看起来那样——有大量的数据。单独而言，你能从单一的数据获取的洞见穷其有限。但是结合复杂数学模型以及强大计算能力的TB级数据，却能创造出人类无法制造的洞见。大数据分析提供给商业的价值是无形的，并且每天都在超越人类的能力。
大数据分析的第一步就是要收集数据本身，也就是众所周知的“数据挖掘”。大部分的企业处理着GB级的数据，这些数据有用户数据、产品数据和地理位置数据。今天，我将会带着大家一起探索如何用 Python 进行大数据挖掘和分析？
为什么选择Python?
Python最大的优点就是简单易用。这个语言有着直观的语法并且还是个强大的多用途语言。这一点在大数据分析环境中很重要，并且许多企业内部已经在使用Python了，比如Google，YouTube，迪士尼等。还有，Python是开源的，并且有很多用于数据科学的类库。
现在，如果你真的要用Python进行大数据分析的话，毫无疑问你需要了解Python的语法，理解正则表达式，知道什么是元组、字符串、字典、字典推导式、列表和列表推导式——这只是开始。
数据分析流程
一般可以按“数据获取-数据存储与提取-数据预处理-数据建模与分析-数据可视化”这样的步骤来实施一个数据分析项目。按照这个流程，每个部分需要掌握的细分知识点如下：
数据获取：公开数据、Python爬虫
外部数据的获取方式主要有以下两种。
第一种是获取外部的公开数据集，一些科研机构、企业、政府会开放一些数据，你需要到特定的网站去下载这些数据。这些数据集通常比较完善、质量相对较高。
另一种获取外部数据的方式就是爬虫。
比如你可以通过爬虫获取招聘网站某一职位的招聘信息，爬取租房网站上某城市的租房信息，爬取豆瓣评分评分最高的电影列表，获取知乎点赞排行、网易云音乐评论排行列表。基于互联网爬取的数据，你可以对某个行业、某种人群进行分析。
在爬虫之前你需要先了解一些 Python 的基础知识：元素（列表、字典、元组等）、变量、循环、函数………
以及，如何用 Python 库（urllib、BeautifulSoup、requests、scrapy）实现网页爬虫。
掌握基础的爬虫之后，你还需要一些高级技巧，比如正则表达式、使用cookie信息、模拟用户登录、抓包分析、搭建代理池等等，来应对不同网站的反爬虫限制。
数据存取：SQL语言
在应对万以内的数据的时候，Excel对于一般的分析没有问题，一旦数据量大，就会力不从心，数据库就能够很好地解决这个问题。而且大多数的企业，都会以SQL的形式来存储数据。
SQL作为最经典的数据库工具，为海量数据的存储与管理提供可能，并且使数据的提取的效率大大提升。你需要掌握以下技能：
提取特定情况下的数据
数据库的增、删、查、改
数据的分组聚合、如何建立多个表之间的联系
数据预处理：Python（pandas）
很多时候我们拿到的数据是不干净的，数据的重复、缺失、异常值等等，这时候就需要进行数据的清洗，把这些影响分析的数据处理好，才能获得更加精确地分析结果。
对于数据预处理，学会 pandas （Python包）的用法，应对一般的数据清洗就完全没问题了。需要掌握的知识点如下：
选择：数据访问
缺失值处理：对缺失数据行进行删除或填充
重复值处理：重复值的判断与删除
异常值处理：清除不必要的空格和极端、异常数据
相关操作：描述性统计、Apply、直方图等
合并：符合各种逻辑关系的合并操作
分组：数据划分、分别执行函数、数据重组
Reshaping：快速生成数据透视表
概率论及统计学知识
需要掌握的知识点如下：
基本统计量：均值、中位数、众数、百分位数、极值等
其他描述性统计量：偏度、方差、标准差、显著性等
其他统计知识：总体和样本、参数和统计量、ErrorBar
概率分布与假设检验：各种分布、假设检验流程
其他概率论知识：条件概率、贝叶斯等
有了统计学的基本知识，你就可以用这些统计量做基本的分析了。你可以使用 Seaborn、matplotlib 等（python包）做一些可视化的分析，通过各种可视化统计图，并得出具有指导意义的结果。
Python 数据分析
掌握回归分析的方法，通过线性回归和逻辑回归，其实你就可以对大多数的数据进行回归分析，并得出相对精确地结论。这部分需要掌握的知识点如下：
回归分析：线性回归、逻辑回归
基本的分类算法：决策树、随机森林……
基本的聚类算法：k-means……
特征工程基础：如何用特征选择优化模型
调参方法：如何调节参数优化模型
Python 数据分析包：scipy、numpy、scikit-learn等
在数据分析的这个阶段，重点了解回归分析的方法，大多数的问题可以得以解决，利用描述性的统计分析和回归分析，你完全可以得到一个不错的分析结论。
当然，随着你实践量的增多，可能会遇到一些复杂的问题，你就可能需要去了解一些更高级的算法：分类、聚类。
然后你会知道面对不同类型的问题的时候更适合用哪种算法模型，对于模型的优化，你需要去了解如何通过特征提取、参数调节来提升预测的精度。
你可以通过 Python 中的 scikit-learn 库来实现数据分析、数据挖掘建模和分析的全过程。
总结
其实做数据挖掘不是梦，5步就能让你成为一个Python爬虫高手!
python数据挖掘对于初学者来说是非常难的。
python数据挖掘（data mining，简称DM），是指从大量的数据中，通过统计学、人工智能、机器学习等方法，挖掘出未知的、且有价值的信息和知识的过程。这是一个用数据说话的时代，也是一个依靠数据竞争的时代。目前世界500强企业中，有90%以上都建立了数据分析部门。IBM、微软、Google等知名公司都积极投资数据业务，建立数据部门，培养数据分析团队。各国政府和越来越多的企业意识到数据和信息已经成为企业的智力资产和资源，数据的分析和处理能力正在成为日益倚重的技术手段。学好之后，能力过硬，赚取大量薪资还是没有问题的，学习的时候一定贵在坚持。
想要了解更多有关python数据挖掘的信息，可以了解一下CDA数据分析师的课程。CDA是根据当今数据分析师岗位不同层级所要求的各项知识和技能而设定的一个科学化、专业化的学习体系。课程兼顾培养学员挖掘经营思维、算法思维、预测分析思维。点击预约免费试听课。
《python统计分析》以基础的统计学知识和假设检验为重点，简明扼要地讲述了Python在数据分析、可视化和统计建模中的应用。
主要包括Python的简单介绍、研究设计、数据管理、概率分布、不同数据类型的假设检验、广义线性模型、生存分析和贝叶斯统计学等从入门到高级的内容。
同时，利用Python这门开源语言，不仅在直观上对数据分析和统计检验提供了很好的理解，而且在相关数学公式的讲解上也能够做到深入浅出。本书的可操作性很强，配套提供相关的代码和数据，读者可以依照书中所讲，复现和加深对相关知识的理解。
作者是托马斯·哈斯尔万特（Thomas Haslwanter），在学术机构中有超过10年的教学经验，是林茨上奥地利州应用科学大学（University of Applied Sciences Upper Austria in Linz）医学工程系的教授，瑞士苏黎世联邦理工学院讲师，并曾在澳大利亚悉尼大学和德国图宾根大学担任过研究员。
他在医学研究方面经验丰富，专注于眩晕症的诊断、治疗和康复。在深入使用Matlab十五年后，他发现Python非常强大，并将其用于统计数据分析、声音和图像处理以及生物仿真应用。
《python统计分析》由李锐翻译，复旦大学公共卫生学院流行病与生物统计专业博士生，Python、R和Lisp语言的爱好者，主要研究方向为统计学习和机器学习建模以及组学数据的数据挖掘。先后以第一作者身份发表学术论文6篇，其中SCI论文4篇。参编中文专著2本。
《python统计分析》内容共两份方面，分别阐述了Python和统计学，及分布和假设检验等。
本书强调实际问题的解决方法，是统计学家/计算机科学家和实验专家（如生物学家、物理学家、医生等）之间一个很好的桥梁。为了让读者更好地理解本书的内容，作者还提供了实际的例子和动手练习（书末附有答案），这使得本书受众广泛——从各个专业的本科生到寻求特定问题答案的成熟的研究人员。
《python统计分析》适合对统计学和Python有兴趣的读者，特别是在实验学科中需要利用Python的强大功能来进行数据处理和统计分析的学生和研究人员，感兴趣的朋友可以看看哦！
