数据挖掘毕业论文报告

数据挖掘在软件工程技术中的应用毕业论文

【 摘要 】计算机技术在发展，软件也发展的越来越复杂，而系统开发工作也显得更加重要。信息技术的广泛应用会产生大量数据，通过对数据进行挖掘，分析其存在的规律，对实现数据资源的有效利用意义重大。本文就数据挖掘技术在软件工程中的应用作简要阐述。

【 关键词 】数据挖掘技术；软件工程中；应用软件技术

随着信息技术发展而快速发展，但是其可控性并不是特别强。软件在应用过程中会产生大量数据，数据作为一种宝贵的资源，有效的利用可以带来价值增值。作为软件开发行业，数据挖掘技术应用则实现了数据资源的有效利用，通过对其中规律进行研究，为软件工程提供相应指导，并且对于系统故障能够有效处理，成本评估的有效性也能够提升。

1数据挖掘技术应用存在的问题

信息数据自身存在的复杂性

软件工程所包含的数据可以分为两个类别，结构化与非结构化。在非结构化数据中软件代码发挥着重要作用。而对结构化数据产生影响的则是软件版本信息。结构与非结构化数据二者之间联系非常密切。实现数据有效利用就需要通过一定技术找出其中的规律。数据挖掘技术则刚好满足需求。利用该技术对结构与非结构化数据进行整合，提升其使用的有效性。

在评价标准方面缺乏一致性

数据挖掘技术在生活中的应用比较广泛，通过该技术应用能够更好的对实际情况进行评价，从而对结果进行优化。但是由于没有统一标准，导致了软件信息复杂。而在表述方式方面自身又存有差异性。信息获取者无法有效的对信息进行应用及对比。而信息缺乏统一标准的原因就在于评价方式不一致。

2数据挖掘技术在软件工程中的应用

数据挖掘执行记录

执行记录挖掘主要是对主程序的路径进行分析，从而发现程序代码存有的相关关系。其实质是通过对相关执行路径进行分析，并进行逆向建模，最终达到目的。作用在于验证，维护，了解程序。记录挖掘的过程通常是对被分析的系统进行初步插装，之后是记录过程，该过程在执行上一步程序后，对应用编程接口，系统，模块的状态变量记录，最后是对所得到的信息进行约简，过滤，聚类。最终得到的模型能够表达系统的特征。

漏洞检测

系统或是软件自身都会存在漏洞，漏洞自身具一定的隐蔽性，由于人的思维存在某些盲区，无法发现漏洞的存在，就需要借助于某些软件。检测漏洞的目的就在于找出软件中存在的漏洞及错误，并对其进行修复，从而保证软件质量与安全。将数据挖掘技术应用于软件检测，首先要确定测试项目，结合到用户需要，对测试内容进行规划，从而确定测试方法，并制定出具体方案。测试工作环节主要是对数据进行清理与转换，其基础在于漏洞数据收集，通过对收集与采集的信息进行清理，将与软件数据有关联同时存在缺陷的数据筛选出来，而将剩余无数据清理，对丢失项目采取相应措施补充，将其属性转换为数值表示。之后是选择适当的'模型进行训练与验证，该环节要结合到项目实际的需要选择挖掘方式，通过对不同数据结果进行分析与比较找到最适合的方式。之后则是重复应用上述方法，对软件存在的漏洞进行定位与检测。并将与之对应的数据收集于软件库，在对漏洞进行描述的基础上分类，最后将通过挖掘得到的知识应用到测试的项目中.

开源软件

对于开源软件的管理由于其自身的开放，动态与全局性，需要与传统管理软件进行区别对待，一般情况下，成熟的开源软件对于软件应用记录较为完整，参与的内容包括了错误报告，开发者活动。参与开发的工作人员会处在动态变化之中，存在动态变化的原因就在于软件的开放性。同时对于软件中动态性特征的挖掘，可达到对开源软件进行优质管理的目标。

版本控制信息

为了保证参与项目人员所共同编辑内容的统一性，就需要对系统应用进行控制。软件开发工程应用中，开发工作管理与保护都会通过版本控制系统来实施。并且其应用方式主要是对变更数据挖掘，找出不同模块及系统存在关系，并对程序中可能会存在的漏洞进行检测。此类技术的应用，使得系统后期维护成本被有效的降低，而对后期变更产生的漏洞也有一定的规避作用。

3数据挖掘在软件工程中的应用

关联法

该方法作用在于寻找数据中存在的相关联系与有趣关联。而体现的关联规则有两个明显的特征。①支持度；②信度。前者表示在某个事物集中，两个子集出现的概率是相同的。而后者则表明了某事物在事物集中出现的概率，而另一事物也会出现。

分类方法

该方法主要是应用于分类标号与离散值的操作。该方法的操作步骤是，首先要建立相应的模型，对数据进行描述，并利用模型对其进行分类。在分类方法选择方面，常用的有判定树法，贝叶斯法，支持项量机法等。判定树法应用的基础是贪心算法。

聚类方法

该方法常用的有划分方法，基于密度，模型，网格的方法与层次方法。聚类分析输入的是一组有序对，有序对中的数据分别表示了样本，相似度。其基本的应用理论是依据不同的对象数据予以应用。

4数据挖掘在软件工程中的应用

对克隆代码的数据挖掘

在软件工程中最为原始的是对克隆代码的检查测试。就其方式而言有文本对比为基础，标识符对比为基础。前者是利用系统中程序代码包含的语句进行判断。该方法在后期改进过程中主要是对字符串匹配效率进行提升。实际应用过程中是通过相关函数匹配对效率进行优化。

软件数据检索挖掘

该方法同样是软件工程中原始的挖掘需求之一。该方法在应用时主要有以下三个步骤。

①数据录入。其实质是对需要检索的信息录入，并结合到使用者需要在数据中查找使用者需要的数据。

②信息查找过程。确认了用户需要查找的信息后，系统将依据信息内容在数据库中进行查找，并分类罗列。

③信息数据导出与查看。用户可以依据自身需要将数据导出或者是在线查看。数据在导出时会形成相应的记录，客户再次进行查找时就会更加的方便与快捷。而将数据导出则需要利用到相关的软件。

应用于设计的三个阶段

软件工程有许多关于软件的资料，资料通常是存放于代码库中。数据运用可以提升工作效率。软件工程每一次循环都会产生大量的数据。基于软件工程生命周期可以将其分为分析设计，迭代的开发，维护应用三个阶段。

面向项目管理数据集的挖掘

软件开发工作到目前已经是将多学科集中于一体。如经济学，组织行为学，管理学等。对于软件开发者而言，关注的重点除过技术方面革新外，同时也需要科学规范的管理。除过对于版本控制信息挖掘外，还有人员组织关系挖掘。对于大规模的软件开发工作而言，对人力资源的有效分配与协调也是软件工作领域需要面对的问题。例如在大型系统开发过程中，往往会有许多人参与其中，人员之间需要进行沟通交流。交流方式包括了面对面沟通，文档传递，电子信息等。通过对人员之间的关系进行挖掘，有利于管理工作开展。员工群体存在的网络是社会网络。通过人员合理组织与分配，将会影响到项目进度，成本，成功的可能性。而对该方面实施研究通常采用的是模拟建模。

5结束语

软件工程技术在生活中许多领域都有广泛的应用，数据挖掘作为其中的一项技术，其重要性及作用随着技术发展而表现的越加明显。为了保证挖掘技术的可靠性与高效，与其它工程技术有一定融合性。数据挖掘在实际应用工作中体现出了巨大的经济效益，因此应该大力推进其应用的范围，并拓展其应用的深度与层次。

参考文献

[1]李红兰.试论数据挖掘技术在软件工程中的应用综述[J].电脑知识与技术，2016（34）.

[2]雷蕾.关于数据挖掘技术在软件工程中的应用综述究[J].电子测试，2014（02）.

[3]孙云鹏.数据挖掘技术在软件工程中的应用综述[J].中国新通信，2015（15）.

寿险行业数据挖掘应用分析寿险是保险行业的一个重要分支，具有巨大的市场发展空间，因此，随着寿险市场的开放、外资公司的介入，竞争逐步升级，群雄逐鹿已成定局。如何保持自身的核心竞争力，使自己始终立于不败之地，是每个企业必须面对的问题。信息技术的应用无疑是提高企业竞争力的有效手段之一。寿险信息系统经过了多年的发展，已逐步成熟完善，并积累了相当数量的数据资源，为数据挖掘提供了坚实的基础，而通过数据挖掘发现知识，并用于科学决策越来越普遍受到寿险公司的重视。数据挖掘数据挖掘（Data Mining，DM）是指从大量不完全的、有噪声的、模糊的、随机的数据中，提取隐含在其中的、有用的信息和知识的过程。其表现形式为概念（Concepts）、规则(Rules)、模式(Patterns)等形式。目前业内已有很多成熟的数据挖掘方法论，为实际应用提供了理想的指导模型。CRISP-DM（Cross-Industry Standard Process for Data Mining）就是公认的、较有影响的方法论之一。CRISP-DM强调，DM不单是数据的组织或者呈现，也不仅是数据分析和统计建模，而是一个从理解业务需求、寻求解决方案到接受实践检验的完整过程。CRISP-DM将整个挖掘过程分为以下六个阶段：商业理解（Business Understanding），数据理解(Data Understanding)，数据准备(Data Preparation)，建模(Modeling)，评估(Evaluation)和发布(Deployment)。商业理解就是对企业运作、业务流程和行业背景的了解；数据理解是对现有企业应用系统的了解；数据准备就是从企业大量数据中取出一个与要探索问题相关的样板数据子集。建模是根据对业务问题的理解，在数据准备的基础上，选择一种更为实用的挖掘模型，形成挖掘的结论。评估就是在实际中检验挖掘的结论，如果达到了预期的效果，就可将结论发布。在实际项目中，CRISP-DM模型中的数据理解、数据准备、建模、评估并不是单向运作的，而是一个多次反复、多次调整、不断修订完善的过程。行业数据挖掘经过多年的系统运营，寿险公司已积累了相当可观的保单信息、客户信息、交易信息、财务信息等，也出现了超大规模的数据库系统。同时，数据集中为原有业务水平的提升以及新业务的拓展提供了条件，也为数据挖掘提供了丰厚的土壤。根据CRISP-DM模型，数据挖掘首先应该做的是对业务的理解、寻找数据挖掘的目标和问题。这些问题包括：代理人的甄选、欺诈识别以及市场细分等，其中市场细分对企业制定经营战略具有极高的指导意义，它是关系到企业能否生存与发展、企业市场营销战略制定与实现的首要问题。针对寿险经营的特点，我们可以从不同的角度对客户群体进行分类归纳，从而形成各种客户分布统计，作为管理人员决策的依据。从寿险产品入手，分析客户对不同险种的偏好程度，指导代理人进行重点推广，是比较容易实现的挖掘思路。由于国内经济发展状况不同，各省差异较大，因此必须限定在一个经济水平相当的区域进行分析数据的采样。同时，市场波动也是必须要考虑的问题，一个模型从建立到废弃有一个生命周期，周期根据模型的适应性和命中率确定，因此模型需要不断修订。挖掘系统架构挖掘系统包括规则生成子系统和应用评估子系统两个部分。规则生成子系统主要完成根据数据仓库提供的保单历史数据，统计并产生相关规律，并输出相关结果。具体包括数据抽取转换、挖掘数据库建立、建模（其中包括了参数设置）、模型评估、结果发布。发布的对象是高层决策者，同时将模型提交给应用评估子系统.根据效果每月动态生成新的模型。应用评估子系统可以理解为生产系统中的挖掘代理程序，根据生成子系统产生的规则按照一定的策略对保单数据进行非类预测。通过系统的任务计划对生产数据产生评估指标。具体包括核心业务系统数据自动转入数据平台、规则实时评估、评估结果动态显示、实际效果评估。规则评估子系统根据规则进行检测。经过一段时间的检测，可利用规则生成子系统重新学习，获得新的规则，不断地更新规则库，直到规则库稳定。目前比较常用的分析指标有: 险种、交费年期、被保人职业、被保人年收入、被保人年龄段、被保人性别、被保人婚姻状况等。实践中，可结合实际数据状况，对各要素进行适当的取舍，并做不同程度的概括，以形成较为满意的判定树，产生可解释的结论成果。

摘要：随着网络、数据库技术的迅速发畏以及数据库管理系统的广泛应用，人们积累的数据越来越多。数据挖掘(Data Mining)就是从大量的实际应用数据中提取隐含信息和知识，它利用了数据库、人工智能和数理统计等多方面的技术，是一类深层次的数据分析方法。 关键词：数据挖掘；知识；分析；市场营销；金融投资 随着网络、数据库技术的迅速发展以及数据库管理系统的广泛应用，人们积累的数据越来越多。由此，数据挖掘技术应运而生。下面，本文对数据技术及其应用作一简单介绍。一、数据挖掘定义数据挖掘(Data Mining)就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。它是一种新的商业信息处理技术，其主要特点是对商业数据库中的大量业务数据进行抽取、转换、分析和其他模型化处理，从中提取辅助商业决策的关键性数据。简而言之，数据挖掘其实是一类深层次的数据分析方法。从这个角度数据挖掘也可以描述为：按企业制定的业务目标，对大量的企业数据进行探索和分析，揭示隐藏的、未知的或验证已知的规律性，并进一步将其模型化的先进有效的方法。二、数据挖掘技术数据挖掘技术是人们长期对数据库技术进行研究和开发的结果，代写论文其中数据仓库技术的发展与数据挖掘有着密切的关系。大部分情况下，数据挖掘都要先把数据从数据仓库中拿到数据挖掘库或数据集市中，因为数据仓库会对数据进行清理，并会解决数据的不一致问题，这会给数据挖掘带来很多好处。此外数据挖掘还利用了人工智能(AI)和统计分析的进步所带来的好处，这两门学科都致力于模式发现和预测。数据库、人工智能和数理统计是数据挖掘技术的三大支柱。由于数据挖掘所发现的知识的不同，其所利用的技术也有所不同。1．广义知识。指类别特征的概括性描述知识。根据数据的微观特性发现其表征的、带有普遍性的、较高层次概念的、中观和宏观的知识，反映同类事物的共同性质，是对数据的概括、精炼和抽象。广义知识的发现方法和实现技术有很多，如数据立方体、面向屙性的归约等。数据立方体的基本思想是实现某些常用的代价较高的聚集函数的计算，诸如计数、求和、平均、最大值等，并将这些实现视图储存在多维数据库中。而面向属性的归约是以类SQL语言来表示数据挖掘查询，收集数据库中的相关数据集，然后在相关数据集上应用一系列数据推广技术进行数据推广，包括属性删除、概念树提升、属性阈值控制、计数及其他聚集函数传播等。2．关联知识。它反映一个事件和其他事件之间依赖或关联的知识。如果两项或多项属性之间存在关联，那么其中一项的属性值就可以依据其他属性值进行预测。最为著名的关联规则发现方法是Apriori算法和FP—Growth算法。关联规则的发现可分为两步：第一步是迭代识别所有的频繁项目集，要求频繁项目集的支持率不低于用户设定的最低值；第二步是从频繁项目集中构造可信度不低于用户设定的最低值的规则。识别或发现所有频繁项目集是关联规则发现算法的核心，也是计算量最大的部分。3．分类知识。它反映同类事物共同性质的特征型知识和不同事物之间的差异型特征知识。分类方法有决策树、朴素贝叶斯、神经网络、遗传算法、粗糙集方法、模糊集方法、线性回归和K—Means划分等。其中最为典型的分类方法是决策树。它是从实例集中构造决策树，是一种有指导的学习方法。该方法先根据训练子集形成决策树，如果该树不能对所有对象给出正确的分类，那么选择一些例外加入到训练子集中，重复该过程一直到形成正确的决策集。最终结果是一棵树，其叶结点是类名，中间结点是带有分枝的屙性，该分枝对应该屙性的某一可能值。4．预测型知识。它根据时间序列型数据，由历史的和当前的数据去推测未来的数据，也可以认为是以时间为关键属性的关联知识。目前，时间序列预测方法有经典的统计方法、神经网络和机器学习等。1968年BoX和Jenkins提出了一套比较完善的时间序列建模理论和分析方法，这些经典的数学方法通过建立随机模型，进行时间序列的预测。由于大量的时间序列是非平稳的，其特征参数和数据分布随着时间的推移而发生变化。因此，仅仅通过对某段历史数据的训练，建立单一的神经网络预测模型，还无法完成准确的预测任务。为此，人们提出了基于统计学和基于精确性的再训练方法，当发现现存预测模型不再适用于当前数据时，对模型重新训练，获得新的权重参数，建立新的模型。5．偏差型知识。它是对差异和极端特例的描述，揭示事物偏离常规的异常现象，如标准类外的特例、数据聚类外的离群值等。所有这些知识都可以在不同的概念层次上被发现，并随着概念层次的提升，从微观到中观、到宏观，以满足不同用户不同层次决策的需要。三、数据挖掘流程数据挖掘是指一个完整的过程，该过程从大型数据库中挖掘先前未知的、有效的、可实用的信息，代写毕业论文并使用这些信息做出决策或丰富知识。数据挖掘的基本过程和主要步骤如下：过程中各步骤的大体内容如下：1．确定业务对象，清晰地定义出业务问题。认清数据挖掘的目的是数据挖掘的重要一步，挖掘的最后结构不可预测，但要探索的问题应该是有预见的，为了数据挖掘而挖掘则带有盲目性，是不会成功的。2．数据准备。(1)数据选择。搜索所有与业务对象有关的内部和外部数据信息，并从中选择出适用于数据挖掘应用的数据。(2)数据预处理。研究数据的质量，进行数据的集成、变换、归约、压缩等．为进一步的分析作准备，并确定将要进行的挖掘操作的类型。(3)数据转换。将数据转换成一个分析模型，这个分析模型是针对挖掘算法建立的，这是数据挖掘成功的关键。3．数据挖掘。对所得到的经过转换的数据进行挖掘。除了完善和选择合适的挖掘算法外，其余一切工作都能自动地完成。4．结果分析。解释并评估结果。其使用的分析方法一般应视挖掘操作而定，通常会用到可视化技术。5．知识同化。将分析所得到的知识集成到业务信息系统的组织结构中去。四、数据挖掘的应用数据挖掘技术从一开始就是面向应用的。目前在很多领域，数据挖掘都是一个很时髦的词，尤其是在如银行、电信、保险、交通、零售(如超级市场)等商业领域。1．市场营销。由于管理信息系统和P0S系统在商业尤其是零售业内的普遍使用，特别是条形码技术的使用，从而可以收集到大量关于用户购买情况的数据，并且数据量在不断激增。对市场营销来说，通过数据分析了解客户购物行为的一些特征，对提高竞争力及促进销售是大有帮助的。利用数据挖掘技术通过对用户数据的分析，可以得到关于顾客购买取向和兴趣的信息，从而为商业决策提供了可靠的依据。数据挖掘在营销业上的应用可分为两类：数据库营销(database markerting)和货篮分析(basket analysis)。数据库营销的任务是通过交互式查询、数据分割和模型预测等方法来选择潜在的顾客，以便向它们推销产品。通过对已有的顾客数据的辱淅，可以将用户分为不同级别，级别越高，其购买的可能性就越大。货篮分析是分析市场销售数据以识别顾客的购买行为模式，例如：如果A商品被选购，那么B商品被购买的可能性为95％，从而帮助确定商店货架的布局排放以促销某些商品，并且对进货的选择和搭配上也更有目的性。这方面的系统有：Opportunity Ex-plorer，它可用于超市商品销售异常情况的因果分析等，另外IBM公司也开发了识别顾客购买行为模式的一些工具(IntdligentMiner和QUEST中的一部分)。2．金融投资。典型的金融分析领域有投资评估和股票交易市场预测，分析方法一般采用模型预测法(如神经网络或统计回归技术)。代写硕士论文由于金融投资的风险很大，在进行投资决策时，更需要通过对各种投资方向的有关数据进行分析，以选择最佳的投资方向。无论是投资评估还是股票市场预测，都是对事物发展的一种预测，而且是建立在对数据的分析基础之上的。数据挖掘可以通过对已有数据的处理，找到数据对象之间的关系，然后利用学习得到的模式进行合理的预测。这方面的系统有Fidelity Stock Selector和LBS Capital Management。前者的任务是使用神经网络模型选择投资，后者则使用了专家系统、神经网络和基因算法技术来辅助管理多达6亿美元的有价证券。3．欺诈甄别。银行或商业上经常发生诈骗行为，如恶性透支等，这些给银行和商业单位带来了巨大的损失。对这类诈骗行为进行预测可以减少损失。进行诈骗甄别主要是通过总结正常行为和诈骗行为之间的关系，得到诈骗行为的一些特性，这样当某项业务符合这些特征时，可以向决策人员提出警告。这方面应用非常成功的系统有：FALCON系统和FAIS系统。FALCON是HNC公司开发的信用卡欺诈估测系统，它已被相当数量的零售银行用于探测可疑的信用卡交易；FAIS则是一个用于识别与洗钱有关的金融交易的系统，它使用的是一般的政府数据表单。此外数据挖掘还可用于天文学上的遥远星体探测、基因工程的研究、web信息检索等。结束语随着数据库、人工智能、数理统计及计算机软硬件技术的发展，数据挖掘技术必能在更多的领域内取得更广泛的应用。 参考文献：[1]闫建红《数据库系统概论》的教学改革与探索[J]．山西广播电视大学学报，2006，(15)：16—17．