当在某些事情上我们有很深的体会时,就很有必要写一篇心得体会,通过写心得体会,可以帮助我们总结积累经验。记录心得体会对于我们的成长和发展具有重要的意义。下面小编给大家带来关于学习心得体会范文,希望会对大家的工作与学习有所帮助。
数据及心得体会篇一
这本书里主要介绍的是大数据在现代商业运作上的应用,以及它对现代商业运作的影响。
《大数据时代》这本书的结构框架遵从了学术性书籍的普遍方式。也既,从现象入手,继而通过对现象的解剖提出对这一现象的解释。然后在通过解释在对未来进行预测,并对未来可能出现的问题提出自己看法与对策。
下面来重点介绍《大数据时代》这本书的主要内容。
《大数据时代》开篇就讲了google通过人们在搜索引擎上搜索关键字留下的数据提前成功的预测了20__年美国的h1n1的爆发地与传播方向以及可能的潜在患者的事情。google的预测比政府提前将近一个月,相比之下政府只能够在流感爆发一两个周之后才可以弄到相关的数据。同时google的预测与政府数据的相关性高达97%,这也就意味着google预测数据的置信区间为3%,这个数字远远小于传统统计学上的常规置信区间5%!而这个数字就是大数据时代预测结果的相对准确性与事件的可预测性的最好证明!通过这一事以及其他的案例,维克托提出了在大数据时代“样本=总体”的思想。我们都知道当样本无限趋近于总体的时候,通过计算得到的描述性数据将无限的趋近于事件本身的性质。而之前采取的“样本总体”的做法很大程度上无法做到更进一步的描述事物,因为之前的时代数据的获取与存储处理本身有很大的难度只导致人们采取抽样的方式来测量事物。而互联网终端与计算机的出现使数据的获取、存储与处理难度大大降低,因而相对准确性更高的“样本=总体”的测算方式将成为大数据时代的主流,同时大数据时代本身也是建立在大批量数据的存储与处理的基础之上的。
接下来,维克多又通过了ibm追求高精确性的电脑翻译计划的失败与google只是将所有出现过的相应的文字语句扫描并储存在词库中,所以无论需要翻译什么,只要有联系google词库就会出现翻译,虽然有的时候的翻译很无厘头,但是大多数时候还是正确的,所以google的电脑翻译的计划的成功,表明大数据时代对准确性的追求并不是特别明显,但是相反大数据时代是建立在大数据的基础住上的,所以大数据时代追求的是全方位覆盖的数字测度而不管其准确性到底有多高,因为大量的数据会湮埋少数有问题的数据所带来的影响。同时大量的数据也会无限的逼近事物的原貌。
之后,维克托又预测了一个在大数据时代催生的重要职业——数据科学家,这是一群数学家、统计学与编程家的综合体,这一群人将能够从获取的数据中得到任何他们想要的结果。换言之,只要数据充足我们的一切外在的与内在的我们不想让他人知道的东西都见会在这一群家伙的面前展现得淋漓尽致。所以为了避免个人隐私在大数据时代被这一群人利用,维克托建议将这一群人分为两部分,一部分使用数据为商业部门服务,而另一群人则负责审查这一些人是否合法的获得与应用数据,是否侵犯了个人隐私。
无论如何,大数据时代将会到来,不管我们接受还是不接受!
我觉得《大数据时代》这本书写的很好,很值得一读。因为会给我们很多启发,比如你在相关的社交网站发表的言论或者照片都很有可能被“数据科学家”们利用,从而再将相关数据卖给各大网店。不过,事实就是我们将会成为被预测被引诱的对象。所以说,小心你在网上留下的痕迹。
我喜欢这本书是因为它给我展现了一个新的世界。
大数据心得体会篇2
数据及心得体会篇二
第一段:引言(100字)
在当今信息爆炸的时代,数据已经成为我们生活中不可或缺的一部分。无论是个人、企业还是政府,都在不断地产生和处理大量的数据。数据背后蕴藏着无尽的信息和知识,通过对数据的整理和分析,我们可以更好地理解和把握事物的本质。本文将介绍数据的重要性,并分享一些关于数据处理和分析的心得体会。
第二段:数据的重要性(200字)
数据扮演着推动社会进步和创新的重要角色。通过收集和分析大量的数据,我们可以更好地了解社会现象和趋势,从而制定合理的决策。例如,科学家们通过研究大量的气象数据,可以准确预测天气情况,给人们提供重要的预警信息。此外,数据还被广泛应用于商业领域。企业通过收集和分析顾客的消费习惯和喜好,可以更好地为顾客提供个性化的产品和服务,提高市场竞争力。可见,数据对于推动社会发展和提升个人能力有着不可低估的重要性。
第三段:数据处理的方法和工具(300字)
处理数据不仅仅是简单地记录和存储,更重要的是如何从数据中提炼出有价值的信息。数据处理的方法和工具也在不断发展和更新。数据挖掘、机器学习和人工智能技术为我们提供了更多的思路和手段。通过这些技术,我们可以对数据进行分类、聚类、回归以及预测,从而发现数据背后的规律和趋势。此外,数据可视化也是处理数据的重要方法之一。通过将数据以图表或图像的形式展示出来,我们可以更直观地理解数据间的关系和趋势,提高数据分析的效果。
第四段:数据处理和分析的心得体会(300字)
在个人的数据处理和分析实践中,我积累了一些心得体会。首先,要合理收集和整理数据。不同的问题需要不同的数据集,我们需要根据问题的需求有针对性地收集数据,避免收集冗余和无效的数据。其次,要采用科学的分析方法。数据分析需要建立合理的模型和算法,需要遵循科学的数据分析原则,以准确地推导出结论。再次,要灵活运用工具和技术。数据处理和分析的工具和技术不断更新,我们需要不断学习和掌握新的工具和技术,以提高数据分析的效率和精准度。最后,要善于合作和分享。数据处理和分析往往需要团队和合作,我们要善于与他人合作,并主动分享自己的经验和知识,促进共同进步。
第五段:总结(200字)
数据是当代社会的重要资源,合理地处理和分析数据对于推动社会进步和个人发展有着重要作用。通过采用科学的方法和灵活运用工具,我们能够从大量的数据中挖掘出有价值的信息和知识。在个人的实践中,我们应该注重数据的收集和整理、采用科学的分析方法、灵活运用工具和技术,以及善于合作和分享。相信通过不断努力和学习,我们能够更好地处理和分析数据,为社会发展和个人能力提升作出更大的贡献。
以上是关于“数据及心得体会”主题的连贯的五段式文章,希望对您有所帮助。
数据及心得体会篇三
一、平台搭建
描述小组在完成平台安装时候遇到的问题以及如何解决这些问题的,要求截图加文字描述。
问题一:在决定选择网站绑定时,当时未找到网站绑定的地方。解决办法:之后小组讨论后,最终找到网站绑定的地方,点击后解决了这个问题。
问题二:当时未找到tcp/ip属性这一栏
解决办法:当时未找到tcp/ip属性这一栏,通过老师的帮助和指导,顺利的点击找到了该属性途径,启用了这一属性,完成了这一步的安装步骤。
问题三:在数据库这一栏中,当时未找到“foodmartsaledw”这个文件
问题四:在此处的sql server的导入和导出向导,这个过程非常的长。
解决办法:在此处的sql server的导入和导出向导,这个过程非常的长,当时一直延迟到了下课的时间,小组成员经讨论,怀疑是否是电脑不兼容或其他问题,后来经问老师,老师说此处的加载这样长的时间是正常的,直到下课后,我们将电脑一直开着到寝室直到软件安装完为止。
问题五:问题二:.不知道维度等概念,不知道怎么设置表间关系的数据源。关系方向不对
解决办法:百度维度概念,设置好维度表和事实表之间的关系,关系有时候是反的——点击反向,最后成功得到设置好表间关系后的数据源视图。(如图所示)
这个大图当时完全不知道怎么做,后来问的老师,老师边讲边帮我们操作完成的。
问题六:由于发生以下连接问题,无法将项目部署到“localhost”服务器:无法建立连接。请确保该服务器正在运行。若要验证或更新目标服务器的名称,请在解决方案资源管理器中右键单击相应的项目、选择“项目属性”、单击“部署”选项卡,然后输入服务器的名称。”因为我在配置数据源的时候就无法识别“localhost”,所以我就打开数据库属性页面:图1-图2 图一:
图二:
解决办法:解决办法: 图2步骤1:从图1到图2后,将目标下的“服务器” 成自己的sql server服务器名称行sql servermanagement studio可以)步骤2:点确定后,选择“处理”,就可以成功部署了。
问题七:无法登陆界面如图:
解决方法:尝试了其他用户登陆,就好了
二、心得体会
(1)在几周的学习中,通过老师课堂上耐心细致的讲解,耐心的指导我们如何一步一步的安装软件,以及老师那些简单清晰明了的课件,是我了解了sql的基础知识,学会了如何创建数据库,以及一些基本的数据应用。陌生到熟悉的过程,从中经历了也体会到了很多感受,面临不同的知识组织,我们也遇到不同困难。
理大数据的规模。大数据进修学习内容模板:
linux安装,文件系统,系统性能分析 hadoop学习原理
大数据飞速发展时代,做一个合格的大数据开发工程师,只有不断完善自己,不断提高自己技术水平,这是一门神奇的课程。
2、在学习sql的过程中,让我们明白了原来自己的电脑可以成为一个数据库,也可以做很多意想不到的事。以及在学习的过程中让我的动手能力增强了,也让我更加懂得了原来电脑的世界是如此的博大精深,如此的神秘。通过这次的学习锻炼了我们的动手能力,上网查阅的能力。改善了我只会用电脑上网的尴尬处境,是电脑的用处更大。让我们的小组更加的团结,每个人对自己的分工更加的明确,也锻炼了我们的团结协作,互帮互助的能力。
3、如果再有机会进行平台搭建,会比这一次的安装更加顺手。而在导入数据库和报表等方面也可以避免再犯相同的错误,在安装lls时可以做的更好。相信报表分析也会做的更加简单明了有条理。
总结
,大数据时代是信息化社会发展必然趋势,在大学的最后一学期里学习了这门课程是我们受益匪浅。让我们知道了大数据大量的存在于现代社会生活中,随着新兴技术的发展与互联网底层技术的革新,数据正在呈指数级增长,所有数据的产生形式,都是数字化。如何收集、管理和分析海量数据对于企业从事的一切商业活动都显得尤为重要。大数据时代是信息化社会发展必然趋势,我们只有紧紧跟随时代的发展才能在以后的工作生活中中获得更多的知识和经验。
三、
结语数据及心得体会篇四
在信息时代的今天,数据已经成为我们生活中不可缺少的一部分。而对于数据的准确性和可信度也成为人们越来越关注的问题。为了测试和验证系统的性能,人们经常需要使用一些假数据来模拟真实情况。而我在进行假数据处理的过程中,不仅学到了很多有关数据的知识,也深刻体会到了假数据的重要性。下面将以我在假数据处理过程中的体会为切入点,进行阐述。
首先,假数据的准备是至关重要的。在处理假数据时,准备工作不可忽视。首先需要明确假数据的用途和目的,然后确定所需的字段和数据类型。为了模拟真实情况,假数据应该具有一定的逻辑关系和合理性。例如,在模拟一个用户注册系统时,需要生成一些合法的用户名、密码和手机号码等信息。如果假数据的准备不充分,可能会导致测试结果与实际使用情况差异较大,进而影响系统的性能和稳定性。
其次,假数据的生成要考虑数据分布的特点。在大数据时代,数据的分布特点是非常重要的。假数据的生成应该符合实际数据的分布情况,以保持模拟效果的准确性。例如,对于一组身高数据,正常情况下应该呈现出一个正态分布的特点。在生成假数据时,我们可以使用一些数学方法和算法来模拟正态分布,以确保生成的假数据能够反映出真实数据的特点。另外,还需要考虑到异常数据的生成,以测试系统对异常情况的处理能力。
第三,假数据需要具备一定的随机性。随机是指数据生成的不可预测性和不重复性。为了模拟真实情况,假数据的生成应该具备一定的随机性。在现实世界中,很少有一成不变的数据,所以假数据也应该能够反映出这一特点。为了达到这个目的,我们可以使用随机数生成器来生成随机的数据。同时,还需要考虑到数据的相互依赖关系,以确保生成的假数据之间的关系具有一定的随机性。
第四,假数据的质量和准确性是评估数据模型的关键指标。在进行数据处理和模型验证时,数据的质量和准确性是非常重要的。无论是真实数据还是假数据,都应该保持数据的质量和准确性。在生成假数据的过程中,我们应该对数据进行合理性校验和数据去重。同时,还需要注意数据的完整性,避免生成不完整或重复的数据。只有保证了数据的质量和准确性,才能更好地评估和验证系统的性能和稳定性。
最后,假数据的使用应当谨慎和合理。假数据只是一个工具,它可以用来帮助我们测试和验证系统的性能,但并不代表现实情况。因此,在使用假数据时,应当谨慎对待。首先需要明确假数据的用途和限制,避免过度依赖假数据而忽视真实数据的特点。其次,在进行数据分析和决策时,应当将假数据与真实数据结合起来进行分析和判断。只有在合理的情况下使用假数据,才能更好地指导实际的决策和行动。
综上所述,假数据在测试和验证系统性能时发挥着非常重要的作用。通过对假数据的准备、生成、随机性、质量和使用等方面的探讨和思考,我深刻体会到了假数据的重要性。只有在合理的情况下使用假数据,并结合真实数据进行分析和决策,我们才能更加准确地了解和评估系统的性能和稳定性。因此,在进行假数据处理时,我们应当注重假数据的准备和生成,同时也要注意数据的质量和准确性,以确保得到可靠的测试和验证结果。
数据及心得体会篇五
数据在当今社会中扮演着越来越重要的角色,无论是企业还是个人,都离不开数据的支持和应用。然而,数据的处理并非一件容易的事情,需要有一定的经验和技巧。在进行数据处理的过程中,我积累了一些经验和体会,下面我将分享一下我在做数据中得到的心得体会。
首先,数据的收集必须要精确。在进行数据处理之前,确保数据的准确性是至关重要的。任何一个数据点的错误或者遗漏都可能对整个数据的分析产生很大的负面影响。因此,在进行数据收集时,我们要尽可能地采用多种来源的数据,确保数据的准确性和完整性。
其次,在数据处理过程中,我们需要保持谨慎的态度。数据处理是一项非常细致和复杂的工作,需要耐心和细心。在对数据进行清洗和预处理时,我们要仔细地检查每一个数据点,排除异常值和错误数据,并进行合理的填充和修正。只有保持严谨和细致的态度,才能保证数据处理的准确性和可靠性。
另外,数据分析需要结合相关的领域知识和背景。单纯的熟悉数据的处理工具和技巧是不够的,还需要了解所处理的数据所涉及的领域知识。因为每个行业和领域都有其独特的特点和规律,只有结合相关领域的知识,才能更好地理解和解释数据的意义和价值。在进行数据分析时,我们要善于与专业人士进行沟通和交流,从他们那里获取更多的信息和见解。
此外,数据可视化是提高数据分析效果的重要手段。数据可视化可以通过图表、图形等形式展示数据的分布和变化趋势,帮助人们更好地理解和解释数据。通过数据可视化,我们可以直观地看出数据的规律和特点,从而更好地为决策提供参考和依据。因此,在进行数据分析时,我们要学会使用各种数据可视化工具和技巧,将数据呈现得更加直观和易懂。
最后,数据处理不应只重视结果,还要关注数据的背后故事。数据只是一个工具,我们不能只看到表面的数字和结果,更要关注背后的数据背景和故事。每个数据背后都有其自身的意义和价值,我们要善于从数据中发现问题和机会,探索数据背后的深层含义。数据分析不仅仅是对数据的处理和分析,更是对问题本质的思考和洞察。
总结来说,做数据处理需要保持精确、谨慎和综合运用相关知识的态度。数据处理是一个漫长而复杂的过程,需要耐心和细致。只有从更广的角度去思考和分析数据,才能得到更准确和有价值的结论,为决策提供更好的支持和指导。
数据及心得体会篇六
第一段:引言(150字)
在如今信息时代的大潮之下,数据已经成为了非常宝贵的资源,被广泛应用于各行各业。而作为数据处理的最初环节,数据的准确性和可靠性对于后续的分析和决策至关重要。在我的工作中,我经常需要进行数据的录入工作,通过这一过程,我积累了一些宝贵的心得和体会。
第二段:添加数据的耐心与细致(250字)
数据录入这一过程并不是一个简单的工作,它要求我们具备一定的耐心和细致的精神。我们需要仰仗旺盛的工作热情,耐心地对每一个数据进行录入,以确保其准确性。在我的工作中,我经常遇到一些数据特别复杂或繁琐的情况,此时我会调整心态,保持耐心,尽量将每一项数据一丝不苟地录入。这些经验让我明白,只有将耐心和细致发挥到极致,才能够保证数据的正确性和完整性。
第三段:注重数据的验证与核对(250字)
数据录入过程中,验证和核对数据是非常重要的环节,它能够有效避免错误数据的出现。在我进行数据录入的同时,我还会定期进行自查和对比,确保数据的准确性。如果发现有错误或不一致的数据,我会及时进行修正和处理,以免影响后续工作。通过这样的验证和核对工作,我发现其中蕴含着科学手段与思考的过程,它能够为我们提供可靠的数据支持,帮助我们做出更加准确的分析和判断。
第四段:掌握数据录入的技术和工具(250字)
现代科技的发展给我们带来了很多便利和工具,也使得数据录入工作变得更加高效和准确。在我的工作中,我不断学习和应用各种录入工具和技术,比如Excel和数据录入软件等。这些工具和技术大大提高了数据录入的速度和准确性。同时,在使用这些工具和技术的过程中,我也发现了它们的潜力和局限性,这让我认识到不仅要掌握数据录入的技术,更要了解其背后的原理和适用范围,以便更好地应对各种工作场景。
第五段:总结与展望(200字)
通过不断的实践和经验积累,我对数据录入工作有了更加深刻的认识。我明白数据录入不仅仅是一个简单的环节,它是构建整个数据处理过程的基石。只有将数据录入工作做好,才能够保证后续的工作能够顺利进行。在未来的工作中,我将进一步深化对数据录入过程的理解和操作技巧,不断提高自身的数据处理能力,为企业决策和业务发展提供更加可靠的数据支持。
总结:
通过数据录入工作的实践,我深刻体会到了其重要性和技巧。只有耐心、细致,并且注重验证与核对,才能够做好数据录入工作。同时,掌握各种数据录入的工具和技术,提高工作效率和准确度也是至关重要的。我相信,在今后的工作中,我会不断学习和提升自己,为数据处理工作做出更大的贡献。
数据及心得体会篇七
算法是为了问题服务的,我们在掌握了书本上的算法以后,要去找一些综合性的题目来锻炼自己,这些问题通常融合了不同的知识点,例如同时蕴含了排序,二叉树,堆栈的相关知识,只有在解决问题的过程中,灵活运用所学知识,才能真正检验我们是否牢固掌握了书本上的内容。教学建议: 其实李老师您是我大学以来第一个普通话如此标准的老师,所以我已经十分庆幸了,而且我觉得您的讲课思路严谨,只不过有的时候,您似乎刻意追求语句的严谨性,逻辑性,科学性,导致课堂上一句话往往说的很长,很绕,慢慢的都是专业名词,有时候还稍有些舌头打结,这会让我们的思绪无法连贯。比如有一次我在qq上问您希尔排序里面的gap这个点,您给我发了一段26秒的语音,然后我听了好多遍理了好多次思绪才想明白,当然了这可能和我自己的理解能力较弱有关。我希望老师上课的时候能够尽量把内容说的再通俗易懂简单粗暴一些。
数据及心得体会篇八
大数据的初衷就是将一个公开、高效的政府呈现在人民眼前。你知道数据报告
心得体会
是什么吗?接下来就是本站小编为大家整理的关于数据报告心得体会,供大家阅读!现在先谈谈我个人在数据分析的经历,最后我将会做个总结。
大学开设了两门专门讲授数据分析基础知识的课程:“概率统计”和“高等多元数据分析”。这两门选用的教材是有中国特色的国货,不仅体系完整而且重点突出,美中不足的是前后内在的逻辑性欠缺,即各知识点之间的关联性没有被阐述明白,而且在应用方面缺少系统地训练。当时,我靠着题海战术把这两门课给混过去了,现在看来是纯忽悠而已。(不过,如果当时去应聘数据分析职位肯定有戏,至少笔试可以过关)。
抱着瞻仰中国的最高科研圣地的想法,大学毕业后我奋不顾身的考取了中科院的研究生。不幸的是,虽然顶着号称是高级生物统计学的专业,我再也没有受到专业的训练,一切全凭自己摸索和研究(不过,我认为这样反而挺好,至少咱底子还是不错的,一直敏而好学)。首先,我尽全力搜集一切资料(从大学带过来的习惯),神勇地看了一段时间,某一天我突然“顿悟”,这样的学习方式是不行的,要以应用为依托才能真正学会。然后呢,好在咱的环境的研究氛围(主要是学生)还是不错滴,我又轰轰烈烈地跳入了paper的海洋,看到无数牛人用到很多牛方法,这些方法又号称解决了很多牛问题,当时那个自卑呀,无法理解这些papers。某一天,我又“顿悟”到想从papers中找到应用是不行的,你得先找到科学研究的思路才行,打个比方,这些papers其实是上锁的,你要先找到钥匙才成。幸运的是,我得到了笛卡尔先生的指导,尽管他已经仙游多年,他的“谈谈方法”为后世科研界中的被“放羊”的孤儿们指条不错的道路(虽然可能不是最好地,the better or best way要到国外去寻找,现在特别佩服毅然出国的童鞋们,你们的智商至少领先俺三年)。好了,在咱不错的底子的作用下,我掌握了科研方法(其实很简单,日后我可能会为“谈谈方法”专门写篇日志)。可惜,这时留给咱的时间不多了,中科院的硕博连读是5年,这对很多童鞋们绰绰有余的,但是因本人的情商较低,被小人“陷害”,被耽搁了差不多一年。这时,我发挥了“虎”(东北话)的精神,选择了一个应用方向,终于开始了把数据分析和应用结合的旅程了。具体过程按下不表,我先是把自己掌握的数据分析方法顺次应用了,或者现成的方法不适合,或者不能很好的解决问题,当时相当的迷茫呀,难道是咱的底子出了问题。某一天,我又“顿悟”了,毛主席早就教育我们要“具体问题具体分析”,“教条主义”要不得,我应该从问题的本质入手,从本质找方法,而不是妄想从繁多的方法去套住问题的本质。好了,我辛苦了一段时间,终于解决了问题,不过,我却有些纠结了。对于数据发分析,现在我的观点就是“具体问题具体分析”,你首先要深入理解被分析的问题(领域),尽力去寻找问题的本质,然后你只需要使用些基本的方法就可以很好的解决问题了,看来“20/80法则”的幽灵无处不在呀。于是乎,咱又回到了原点,赶紧去学那些基础知识方法吧,它们是很重要滴。
这里,说了一大堆,我做过总结:首先,你要掌握扎实的基础知识,并且一定要深入理解,在自己的思维里搭建起一桥,它连接着抽象的数据分析方法和现实的应用问题;其次,你要有意识的去训练分析问题的能力;最后,你要不断的积累各方面的知识,记住没有“无源之水”、“无根之木”,良好的数据分析能力是建立在丰富的知识储备上的。
有人说生活像一团乱麻,剪不断理还乱;我说生活像一团乱码,尽管云山雾罩惝恍迷离,最后却总会拨云见日雨过天晴。维克托迈尔舍恩伯格就把这团乱码叫做大数据,在他的这本书里,试图给出的就是拨开云雾见青天的玄机。
这玄机说来也简单,就是放弃千百年来人们孜孜追求的因果关系转而投奔相关关系。说来简单,其实却颠覆了多少代人对真理探求的梦想。我觉得作者是个典型的实用主义者,在美帝国主义万恶的压迫和洗脑下,始终追逐性价比和利益最大化,居然放弃了追求共产主义真理最基本的要求!不像我们在天朝光芒的笼罩下,从小就开始学习和追求纯粹的共产主义唯心科学历史文化知识啦!这或许就是我们永远无法获得诺贝尔奖、永远无法站在科技最前沿的根本原因吧。其实小学时候,我就想过这个问题,相信所有的人都问过类似的问题,例如现在仍然很多人在问,妈的从来没人知道我每天摆摊赚多少钱,你们他妈的那人均收入四五千是怎么算出来的。中国是抽样的代表,因为中国人最喜欢用代表来表现整体,最典型的例子莫过于公布的幸福指数满意指数各种指数永远都高于你的预期,你完全不清楚他是怎么来的,一直到最后汇总成三个代表,真心不清楚它到底能代表了啥。说这么多显得自己是个愤青,其实只是想表达“样本=总体”这个概念在科技飞速发展的今天,在世界的不同角落,还是会体现出不同的价值,受到不同程度的对待及关注。在大数据观念的冲击下,我们是不是真的需要将平时关注的重点从事物内在的发展规律转移到事物客观的发生情况上。
大数据的出现,必然对诸多领域产生极大的冲击,某些行业在未来十年必将会得到突飞猛进的发展,而其他一些行业则可能会消失。这是废话,典型的三十年河东三十年河西的道理,就像三十年前的数理化王子们,现在可能蜷缩在某工厂的小角落里颤颤巍巍的修理机器;就像三十年前职业高中的学生才学财会学银行,如今这帮孙子一个个都开大奔养小三攒的楼房够给自己做墓群的了;当然也不乏像生物这种专业,三十年前人们不知道是干啥的,三十年后人们都知道没事别去干,唯一可惜的是我在这三十年之间的历史长河中却恰恰选了这么一个专业,这也是为什么我现在在这写
读后感
而没有跟姑娘去玩耍的原因。其实乍一看这个题目,我首先想到的是精益生产的过程控制,比如六西格玛,这其实就是通过对所有数据的分析来预测产品品质的变化,就已经是大数据的具体应用了。而任何事物都会有偏差,会有错误,也就是说,这全部的数据中,肯定是要出现很多与总体反应出的规律相违背的个体,但是无论如何这也是该事件中一般规律的客观体现的一种形式,要远远好过从选定的样本中剔除异常值然后得到的结论。换句话说,也大大减少了排除异己对表达事物客观规律的影响。就好比是统计局统计中国人民的平均收入一样,这些数怎么这么低啊,这不是给我们国家在国际社会上的形象抹黑么,删掉删掉;这些数怎么这么高啊,这还不引起社会不满国家动荡啊,删掉删掉。所以说,大数据至少对反应客观事实和对客观事实做预测这两个方面是有非常积极地意义的。而这个新兴行业所体现的商机,既在如何利用数据上,又在如何取得数据上。
先说数据的利用,这里面表达的就是作者在通书中强调的对“相关关系”的挖掘利用。相关关系与因果关系便不再赘述,而能够对相关关系进行挖掘利用的企业其实缺不多,因为可以相信未来的大数据库就像现在的自然资源一样,必将因为对利益的追逐成为稀缺资源,而最终落在个别人或企业或部门的手中。想想无论当你想要做什么事情的时候,都有人已经提前知道并且为你做好了计划,还真是一件甜蜜而又令人不寒而栗的事情。
而对于数据的获取,我觉得必然是未来中小型企业甚至个人发挥极致的创造力的领域。如何在尽可能降低成本的情况下采集到越多越准确的数据是必然的发展趋势,鉴于这三个维度事实上都无法做到极致,那么对于数据获取方式的争夺肯定将成就更多的英雄人物。
现在回头从说说作者书中的观点中想到的,p87中关于巴斯德的疫苗的事件,描述了一个被疯狗咬伤的小孩,在接种了巴斯德的狂犬疫苗后成功幸存,巴斯德成了英雄的故事。这是个非常有意思的案例,因为小孩被狗咬伤而患病的概率仅为七分之一,也就是说,本事件有85%的概率是小孩根本就不会患病。那么小孩的生命到底是不是巴斯德救的,而这疫苗到底是有效没效,通过这个事件似乎根本就没有办法得到验证。这就好比某人推出个四万亿计划,但实际上国际经济形势就是好转,哪怕你只推出个二百五计划,gdp都会蹭蹭的往上涨,而且又不会带来四万亿导致的严重通胀、产能过剩、房价泡沫等问题。那你说这四万亿到底是救了国还是误了国?回到我自己的工作领域上来,安全工作,我们一直遵循的方向都是寻找因果关系,典型的从工作前的风险评估,到调查事故的taproot或者五个为什么,无一不是逻辑推理得到结果的产物。而事实上,如果能做到信息的丰富采集和汇总的话,找出事物之间的相关性,对提高工作环境的安全系数是极为有利的。这个点留着,看看可不可以在未来继续做进一步研究。
关于软件
分析前期可以使用excel进行数据清洗、数据结构调整、复杂的新变量计算(包括逻辑计算);在后期呈现美观的图表时,它的制图制表功能更是无可取代的利器;但需要说明的是,excel毕竟只是办公软件,它的作用大多局限在对数据本身进行的操作,而非复杂的统计和计量分析,而且,当样本量达到“万”以上级别时,excel的运行速度有时会让人抓狂。
spss是擅长于处理截面数据的傻瓜统计软件。首先,它是专业的统计软件,对“万”甚至“十万”样本量级别的数据集都能应付自如;其次,它是统计软件而非专业的计量软件,因此它的强项在于数据清洗、描述统计、假设检验(t、f、卡方、方差齐性、正态性、信效度等检验)、多元统计分析(因子、聚类、判别、偏相关等)和一些常用的计量分析(初、中级计量教科书里提到的计量分析基本都能实现),对于复杂的、前沿的计量分析无能为力;第三,spss主要用于分析截面数据,在时序和面板数据处理方面功能了了;最后,spss兼容菜单化和编程化操作,是名副其实的傻瓜软件。
stata与eviews都是我偏好的计量软件。前者完全编程化操作,后者兼容菜单化和编程化操作;虽然两款软件都能做简单的描述统计,但是较之spss差了许多;stata与eviews都是计量软件,高级的计量分析能够在这两个软件里得到实现;stata的扩展性较好,我们可以上网找自己需要的命令文件(.ado文件),不断扩展其应用,但eviews就只能等着软件升级了;另外,对于时序数据的处理,eviews较强。
综上,各款软件有自己的强项和弱项,用什么软件取决于数据本身的属性及分析方法。excel适用于处理小样本数据,spss、stata、eviews可以处理较大的样本;excel、spss适合做数据清洗、新变量计算等分析前准备性工作,而stata、eviews在这方面较差;制图制表用excel;对截面数据进行统计分析用spss,简单的计量分析spss、stata、eviews可以实现,高级的计量分析用stata、eviews,时序分析用eviews。
关于因果性
早期,人们通过观察原因和结果之间的表面联系进行因果推论,比如恒常会合、时间顺序。但是,人们渐渐认识到多次的共同出现和共同缺失可能是因果关系,也可能是由共同的原因或其他因素造成的。从归纳法的角度来说,如果在有a的情形下出现b,没有a的情形下就没有b,那么a很可能是b的原因,但也可能是其他未能预料到的因素在起作用,所以,在进行因果判断时应对大量的事例进行比较,以便提高判断的可靠性。
有两种解决因果问题的方案:统计的解决方案和科学的解决方案。统计的解决方案主要指运用统计和计量回归的方法对微观数据进行分析,比较受干预样本与未接受干预样本在效果指标(因变量)上的差异。需要强调的是,利用截面数据进行统计分析,不论是进行均值比较、频数分析,还是方差分析、相关分析,其结果只是干预与影响效果之间因果关系成立的必要条件而非充分条件。类似的,利用截面数据进行计量回归,所能得到的最多也只是变量间的数量关系;计量模型中哪个变量为因变量哪个变量为自变量,完全出于分析者根据其他考虑进行的预设,与计量分析结果没有关系。总之,回归并不意味着因果关系的成立,因果关系的判定或推断必须依据经过实践检验的相关理论。虽然利用截面数据进行因果判断显得勉强,但如果研究者掌握了时间序列数据,因果判断仍有可为,其中最经典的方法就是进行“格兰杰因果关系检验”。但格兰杰因果关系检验的结论也只是统计意义上的因果性,而不一定是真正的因果关系,况且格兰杰因果关系检验对数据的要求较高(多期时序数据),因此该方法对截面数据无能为力。综上所述,统计、计量分析的结果可以作为真正的因果关系的一种支持,但不能作为肯定或否定因果关系的最终根据。
科学的解决方案主要指实验法,包括随机分组实验和准实验。以实验的方法对干预的效果进行评估,可以对除干预外的其他影响因素加以控制,从而将干预实施后的效果归因为干预本身,这就解决了因果性的确认问题。
关于实验
在随机实验中,样本被随机分成两组,一组经历处理条件(进入干预组),另一组接受控制条件(进入对照组),然后比较两组样本的效果指标均值是否有差异。随机分组使得两组样本“同质”,即“分组”、“干预”与样本的所有自身属性相互独立,从而可以通过干预结束时两个群体在效果指标上的差异来考察实验处理的净效应。随机实验设计方法能够在最大程度上保证干预组与对照组的相似性,得出的研究结论更具可靠性,更具说服力。但是这种方法也是备受争议的,一是因为它实施难度较大、成本较高;二是因为在干预的影响评估中,接受干预与否通常并不是随机发生的;第三,在社会科学研究领域,完全随机分配实验对象的做法会涉及到研究伦理和道德问题。鉴于上述原因,利用非随机数据进行的准试验设计是一个可供选择的替代方法。准实验与随机实验区分的标准是前者没有随机分配样本。
通过准实验对干预的影响效果进行评估,由于样本接受干预与否并不是随机发生的,而是人为选择的,因此对于非随机数据,不能简单的认为效果指标的差异来源于干预。在剔除干预因素后,干预组和对照组的本身还可能存在着一些影响效果指标的因素,这些因素对效果指标的作用有可能同干预对效果指标的作用相混淆。为了解决这个问题,可以运用统计或计量的方法对除干预因素外的其他可能的影响因素进行控制,或运用匹配的方法调整样本属性的不平衡性——在对照组中寻找一个除了干预因素不同之外,其他因素与干预组样本相同的对照样本与之配对——这可以保证这些影响因素和分组安排独立。
转眼间实习已去一月,之前因为工作原因需要恶补大量的专业知识并加以练习,所以一直抽不开身静下心来好好整理一下学习的成果。如今,模型的建立已经完成,剩下的就是枯燥的参数调整工作。在这之前就先对这段时间的数据处理工作得到的经验做个小总结吧。
从我个人的理解来看,数据分析工作,在绝大部分情况下的目的在于用统计学的手段揭示数据所呈现的一些有用的信息,比如事物的发展趋势和规律;又或者是去定位某种或某些现象的原因;也可以是检验某种假设是否正确(心智模型的验证)。因此,数据分析工作常常用来支持决策的制定。
现代统计学已经提供了相当丰富的数据处理手段,但统计学的局限性在于,它只是在统计的层面上解释数据所包含的信息,并不能从数据上得到原理上的结果。也就是说统计学并不能解释为什么数据是个样子,只能告诉我们数据展示给了我们什么。因此,统计学无法揭示系统性风险,这也是我们在利用统计学作为数据处理工具的时候需要注意的一点。数据挖掘也是这个道理。因为数据挖掘的原理大多也是基于统计学的理论,因此所挖掘出的信息并不一定具有普适性。所以,在决策制定上,利用统计结果+专业知识解释才是最保险的办法。然而,在很多时候,统计结果并不能用已有的知识解释其原理,而统计结果又确实展示出某种或某些稳定的趋势。为了抓住宝贵的机会,信任统计结果,仅仅依据统计分析结果来进行决策也是很普遍的事情,只不过要付出的代价便是承受系统环境的变化所带来的风险。
用于数据分析的工具很多,从最简单的office组件中的excel到专业软件r、matlab,功能从简单到复杂,可以满足各种需求。在这里只能是对我自己实际使用的感受做一个总结。
excel:这个软件大多数人应该都是比较熟悉的。excel满足了绝大部分办公制表的需求,同时也拥有相当优秀的数据处理能力。其自带的toolpak(分析工具库)和solver(规划求解加载项)可以完成基本描述统计、方差分析、统计检验、傅立叶分析、线性回归分析和线性规划求解工作。这些功能在excel中没有默认打开,需要在excel选项中手动开启。除此以外,excel也提供较为常用的统计图形绘制功能。这些功能涵盖了基本的统计分析手段,已经能够满足绝大部分数据分析工作的需求,同时也提供相当友好的操作界面,对于具备基本统计学理论的用户来说是十分容易上手的。
spss:原名statistical package for the social science,现在已被ibm收购,改名后仍然是叫spss,不过全称变更为statistical product and service solution。spss是一个专业的统计分析软件。除了基本的统计分析功能之外,还提供非线性回归、聚类分析(clustering)、主成份分析(pca)和基本的时序分析。spss在某种程度上可以进行简单的数据挖掘工作,比如k-means聚类,不过数据挖掘的主要工作一般都是使用其自家的clementine(现已改名为spss modeler)完成。需要提一点的是spss modeler的建模功能非常强大且智能化,同时还可以通过其自身的clef(clementine extension framework)框架和java开发新的建模插件,扩展性相当好,是一个不错的商业bi方案。
r:r是一个开源的分析软件,也是分析能力不亚于spss和matlab等商业软件的轻量级(仅指其占用空间极小,功能却是重量级的)分析工具。官网地址:支持windows、linux和mac os系统,对于用户来说非常方便。r和matlab都是通过命令行来进行操作,这一点和适合有编程背景或喜好的数据分析人员。r的官方包中已经自带有相当丰富的分析命令和函数以及主要的作图工具。但r最大的优点在于其超强的扩展性,可以通过下载扩展包来扩展其分析功能,并且这些扩展包也是开源的。r社区拥有一群非常热心的贡献者,这使得r的分析功能一直都很丰富。r也是我目前在工作中分析数据使用的主力工具。虽然工作中要求用matlab编程生成结果,但是实际分析的时候我基本都是用r来做的。因为在语法方面,r比matlab要更加自然一些。但是r的循环效率似乎并不是太高。
matlab:也是一个商业软件,从名称上就可以看出是为数学服务的。matlab的计算主要基于矩阵。功能上是没话说,涵盖了生物统计、信号处理、金融数据分析等一系列领域,是一个功能很强大的数学计算工具。是的,是数学计算工具,这东西的统计功能只不过是它的一部分,这东西体积也不小,吃掉我近3个g的空间。对于我来说,matlab是一个过于强大的工具,很多功能是用不上的。当然,我也才刚刚上手而已,才刚刚搞明白怎么用这个怪物做最简单的garch(1,1)模型。但毫无疑问,matlab基本上能满足各领域计算方面的需求。