数据挖掘是从大量数据中提取人们感兴趣知识的高级处理过程， 这些知识是隐含的、 事先未知的， 并且是可信的、 新颖的、 潜在有用的、 能被人们理解的模式。随着信息化的普及和数据库的广泛应用，很多大型企业事业单位积累了数百亿字节的数据， 分析利用如此海量的数据，是数据挖掘技术的用武之地。数据挖掘在争取与保留客户、 交叉销售、 趋势分析与市场预测、 欺诈检测与风险防范等方面的成功应用令人鼓舞。
数据挖掘总结之主成分分析与因子分析
主成分分析与因子分析
1）概念：
主成分分析概念：主成分分析是把原来多个变量划为少数几个综合指标的一种统计分析方法。主成分分析（PCA）是一种数据降维技巧，它能将大量相关变量转化为一组很少的不相关变量，这些无关变量称为主成分。
PCA的目标是用一组较少的不相关变量代替大量相关变量，同时尽可能保留初始变量的信息，这些推导所得的变量称为主成分，它们是观测变量的线性组合。
因子分析概念：探索性因子分析（EFA）是一系列用来发现一组变量的潜在结构的方法。通过寻找一组更小的、潜在的或隐藏的结构来解释已观测到的、显式的变量间的关系。进行EFA需要大量的样本，一般经验认为如何估计因子的数目为N，则需要有5N到10N的样本数目。
PCA/EFA 分析流程：
（1）数据预处理；PCA和EFA都是根据观测变量间的相关性来推导结果。用户可以输入原始数据矩阵或相关系数矩阵列到principal()和fa（）函数中，若输出初始结果，相关系数矩阵将会被自动计算，在计算前请确保数据中没有缺失值；
（2）选择因子分析模型。判断是PCA（数据降维）还是EFA（发现潜在结构）更符合你的分析目标。选择EFA方法时，还需要选择一种估计因子模型的方法（如最大似然估计）。
（3）判断要选择的主成分/因子数目；
（4）选择主成分/因子；
（5）旋转主成分/因子；
（6）解释结果；
（7）计算主成分或因子得分。
2）、因子分析与主成分分析的区别
①原理不同
主成分分析基本原理：利用降维（线性变换)的思想，每个主成分都是原始变量的线性组合,且各个主成分之间互不相关。
因子分析基本原理：利用降维的思想，从数据中提取对变量起解释作用的少数公共因子（因子分析是主成分的推广，相对于主成分分析，更倾向于描述原始变量之间的相关关系）
②侧重点不同
主成分分析侧重“变异量”，主成分分析是原始变量的线性组合，得出来的主成分往往从业务场景的角度难以解释
因子分析更重视相关变量的“共变异量”，因子分析需要构造因子模型：EFA中的原始变量是公共因子的线性组合，因子是影响变量的潜在变量，目的是找到在背后起作用的少量关键因子，因子分析的结果往往更容易用业务知识去加以解释
③ 因子分析的评价结果没有主成分分析准确; 因子分析比主成分分析的计算工作量大
主成分分析:原始变量的线性组合表示新的综合变量，即主成分；
EFA和PCA的区别在于：PCA中的主成分是原始变量的线性组合，而EFA中的原始变量是公共因子的线性组合，因子是影响变量的潜在变量，变量中不能被因子所解释的部分称为误差，因子和误差均不能直接观察到。进行EFA需要大量的样本，一般经验认为如何估计因子的数目为N，则需要有5N到10N的样本数目。
本文共计2680字，预计阅读时长七分钟
聚类算法
一 、 本质
将数据划分到不同的类里，使相似的数据在同一类里，不相似的数据在不同类里
二 、 分类算法用来解决什么问题
文本聚类、图像聚类和商品聚类，便于发现规律，以解决数据稀疏问题
三 、 聚类算法基础知识
1. 层次聚类 vs 非层次聚类
– 不同类之间有无包含关系
2. 硬聚类 vs 软聚类
– 硬聚类：每个对象只属于一个类
– 软聚类：每个对象以某个概率属于每个类
3. 用向量表示对象
– 每个对象用一个向量表示，可以视为高维空间的一个点
– 所有对象形成数据空间（矩阵）
– 相似度计算：Cosine、点积、质心距离
4. 用矩阵列出对象之间的距离、相似度
5. 用字典保存上述矩阵（节省空间）
D={(1,1):0,(1,2):2,(1,3):6...(5,5):0}
6. 评价方法
– 内部评价法（Internal Evalution）：
• 没有外部标准，非监督式
• 同类是否相似，跨类是否相异
DB值越小聚类效果越好，反之，越不好
– 外部评价法（External Evalution）：
• 准确度（accuracy）: (C11+C22) / (C11 + C12 + C21 + C22)
• 精度（Precision）: C11 / (C11 + C21 )
• 召回（Recall）: C11 / (C11 + C12 )
• F值（F-measure）：
β表示对精度P的重视程度，越大越重视，默认设置为1，即变成了F值，F较高时则能说明聚类效果较好。
四 、 有哪些聚类算法
主要分为 层次化聚类算法 ， 划分式聚类算法 ， 基于密度的聚类算法 ， 基于网格的聚类算法 ， 基于模型的聚类算法等 。
4.1 层次化聚类算法
又称树聚类算法，透过一种层次架构方式，反复将数据进行分裂或聚合。典型的有BIRCH算法，CURE算法，CHAMELEON算法，Sequence data rough clustering算法,Between groups average算法,Furthest neighbor算法,Neares neighbor算法等。
凝聚型层次聚类 ：
先将每个对象作为一个簇，然后合并这些原子簇为越来越大的簇，直到所有对象都在一个簇中，或者某个终结条件被满足。
算法流程：
1. 将每个对象看作一类，计算两两之间的最小距离；
2. 将距离最小的两个类合并成一个新类；
3. 重新计算新类与所有类之间的距离；
4. 重复2、3，直到所有类最后合并成一类。
特点：
1. 算法简单
2. 层次用于概念聚类（生成概念、文档层次树）
3. 聚类对象的两种表示法都适用
4. 处理大小不同的簇
5. 簇选取步骤在树状图生成之后
4.2 划分式聚类算法
预先指定聚类数目或聚类中心，反复迭代逐步降低目标函数误差值直至收敛，得到最终结果。K-means,K-modes-Huang,K-means-CP,MDS_CLUSTER, Feature weighted fuzzy clustering，CLARANS等
经典K-means：
算法流程：
1. 随机地选择k个对象，每个对象初始地代表了一个簇的中心；
2. 对剩余的每个对象，根据其与各簇中心的距离，将它赋给最近的簇；
3. 重新计算每个簇的平均值，更新为新的簇中心；
4. 不断重复2、3，直到准则函数收敛。
特点：
1.K的选择
2.中心点的选择
– 随机
– 多轮随机：选择最小的WCSS
3.优点
– 算法简单、有效
– 时间复杂度：O(nkt)
4.缺点
– 不适于处理球面数据
– 密度、大小不同的聚类，受K的限制，难于发现自然的聚类
4.3 基于模型的聚类算法
为每簇假定了一个模型，寻找数据对给定模型的最佳拟合，同一”类“的数据属于同一种概率分布，即假设数据是根据潜在的概率分布生成的。主要有基于统计学模型的方法和基于神经网络模型的方法，尤其以基于概率模型的方法居多。一个基于模型的算法可能通过构建反应数据点空间分布的密度函数来定位聚类。基于模型的聚类试图优化给定的数据和某些数据模型之间的适应性。
SOM 神经网络算法 ：
该算法假设在输入对象中存在一些拓扑结构或顺序，可以实现从输入空间(n维)到输出平面(2维)的降维映射，其映射具有拓扑特征保持性质,与实际的大脑处理有很强的理论联系。
SOM网络包含输入层和输出层。输入层对应一个高维的输入向量，输出层由一系列组织在2维网格上的有序节点构成，输入节点与输出节点通过权重向量连接。学习过程中，找到与之距离最短的输出层单元，即获胜单元，对其更新。同时，将邻近区域的权值更新，使输出节点保持输入向量的拓扑特征。
算法流程：
1. 网络初始化，对输出层每个节点权重赋初值；
2. 将输入样本中随机选取输入向量，找到与输入向量距离最小的权重向量；
3. 定义获胜单元，在获胜单元的邻近区域调整权重使其向输入向量靠拢；
4. 提供新样本、进行训练；
5. 收缩邻域半径、减小学习率、重复，直到小于允许值，输出聚类结果。
4.4 基于密度聚类算法
只要邻近区域的密度（对象或数据点的数目）超过某个阈值，就继续聚类，擅于解决不规则形状的聚类问题，广泛应用于空间信息处理,SGC,GCHL，DBSCAN算法、OPTICS算法、DENCLUE算法。
DBSCAN：
对于集中区域效果较好，为了发现任意形状的簇，这类方法将簇看做是数据空间中被低密度区域分割开的稠密对象区域；一种基于高密度连通区域的基于密度的聚类方法，该算法将具有足够高密度的区域划分为簇，并在具有噪声的空间数据中发现任意形状的簇。
4.5 基于网格的聚类算法
基于网格的方法把对象空间量化为有限数目的单元，形成一个网格结构。所有的聚类操作都在这个网格结构（即量化空间）上进行。这种方法的主要优点是它的处理 速度很快，其处理速度独立于数据对象的数目，只与量化空间中每一维的单元数目有关。但这种算法效率的提高是以聚类结果的精确性为代价的。经常与基于密度的算法结合使用。代表算法有STING算法、CLIQUE算法、WAVE-CLUSTER算法等。
