大数据提高决策能力当前，企业管理者还是更多依赖个人经验和直觉做决策，而不是基于数据。在信息有限、获取成本高昂，而且没有被数字化的时代，让身居高位的人做决策是情有可原的，但是大数据时代，就必须要让数据说话。大数据能够有效的帮助各个行业用户做出更为准确的商业决策，从而实现更大的商业价值，它从诞生开始就是站在决策的角度出发。虽然不同行业的业务不同，所产生的数据及其所支撑的管理形态也千差万别，但从数据的获取，数据的整合，数据的加工，数据的综合应用，数据的服务和推广，数据处理的生命线流程来分析，所有行业的模式是一致的。数据是所有能输入计算机并被计算机程序处理的符号的介质的总称。双流区政商数据海 这...

维度表上又关联了其他维度表。这种模型使用过程中会造成大量的join，维护成本高，性能方面也较差，所以一般不建议使用。尤其是基于hadoop体系构建数仓，减少join就是减少shuffle，性能差距会很大。c.星座模型星座模型，是对星型模型的扩展延伸，多张事实表共享维度表。数仓模型建设后期，当一个星型模型为一个实体，又有多个是实体，实体间又共用维表(这个是很常见的)，就自然成了星座模型了。大部分维度建模都是星座模型。构建企业级数据仓库，必不可少的就是制定数仓规范。包括命名规范，流程规范，设计规范，开发规范等。开发规范示例：开发语言，传统数仓一般SQL/Shell为主，互联网数仓又对Pyt...

比如日志、生产数据库的数据、视频、音频等非结构化数据。从这用户群体角度来说这非互联网、互联网的数据平台用户差异性是非常明显，互联网数据平台中很多理论与名词都是从传统数据平台传递过来的，本文将会分别阐述非互联网、互联网数据平台区别。非互联网时代自从数据仓库发展起来到现在，基本上可以分为五个时代、四种架构约在1991年前的全企业集成1991年后的企业数据集成EDW时代1994年-1996年的数据集市1996-1997年左右的两个架构吵架1998年-2001年左右的合并年代数据仓库代架构（开发时间2001-2002年）海尔集团的一个BI项目，架构的ETL使用的是微软的数据抽取加工工具DTS，...

数据质量、数据安全、数据生命周期等方面开展实施。数据治理是一个企业安身立命的根本。元数据:业务实体数据的标识，在大数据领域，一个数仓可以有成百上千，甚至成千上万或更多的表。这些表的含义，表的每个字段的含义只有通过元数据才能知道。业务实体数据：业务产生的数据的数据内容，业务实体数据以外的数据表都是为其服务的。数据质量：保证业务实体数据完整性、准确性、一致性、时效性。每一个操作业务实体数据的任务都应该配置数据质量监控，严禁任务裸奔。可建设统一数据质量告警中心从以下四个方面进行监控、预警和优化任务。数据安全：即数据的保密性、真实性、完整性、未授权拷贝和所寄生系统的安全性。数据生命周期：对于某...

我在这里整理一个表格不同时代数据源的差异性（备注可能整理的有点不全）：数据平台的用户：总结下来互联网的数据平台“服务”方式迭代演进大约可以分为三个阶段。阶段一：约在2008年-2011年初的互联网数据平台，那时建设与使用上与非互联网数据平台有这蛮大的相似性，主要相似点在数据平台的建设角色、与使用到的技术上。老板们、运营的需求主要是依赖于报表、分析报告、临时需求、商业智能团队的数据分析师去各种分析、临时需求、挖掘，这些角色是数据平台的适用方。ETL开发工程师、数据模型建模、数据架构师、报表设计人员，同时这些角色又是数据平台数据建设与使用方。数据平台的技术框架与工具实现主要有技术架构师、J...

维度表上又关联了其他维度表。这种模型使用过程中会造成大量的join，维护成本高，性能方面也较差，所以一般不建议使用。尤其是基于hadoop体系构建数仓，减少join就是减少shuffle，性能差距会很大。c.星座模型星座模型，是对星型模型的扩展延伸，多张事实表共享维度表。数仓模型建设后期，当一个星型模型为一个实体，又有多个是实体，实体间又共用维表(这个是很常见的)，就自然成了星座模型了。大部分维度建模都是星座模型。构建企业级数据仓库，必不可少的就是制定数仓规范。包括命名规范，流程规范，设计规范，开发规范等。开发规范示例：开发语言，传统数仓一般SQL/Shell为主，互联网数仓又对Pyt...

普遍采用实时性的数据处理方式在现如今人们的生活中，人们获取信息的速度较快。为了更好地满足人们的需求，大数据处理系统的处理方式也需要不断地与时俱进。目前大数据的处理系统采用的主要是批量化的处理方式，这种数据处理方式有一定的局限性，主要是用于数据报告的频率不需要达到分钟级别的场合，而对于要求比较高的场合，这种数据处理方式就达不到要求。传统的数据仓库系统、链路挖掘等应用对数据处理的时间往往以小时或者天为单位。这与大数据自身的发展有点不相适应。大数据突出强调数据的实时性，因而对数据处理也要体现出实时性。如在线个性化推荐、实时路况信息等数据处理时间要求在分钟甚至秒极。要求极高。在一些大数据的...

备注涉及的复杂维度、退化维度等不在这个讨论范围）。数据模型的业务建模阶段、领域概念模型阶段、逻辑模型阶段、物理模型阶段是超级学术与复杂的话题，而且在模型领域根据特点又分主数据(MDM)、CIF（企业级统一视图）、通用模型(IBM的金融、保险行业通用模型、Terdata的金融通用模型、电信移动通用模型等)，锁涉及到术语”扩展“、”扁平化“、”裁剪“等眼花缭乱的建模手法，数据模型不同层次ODS、DWDDWD、DW、ST的分层目的不同导致模型设计方法又不同。相信业界有很多大牛能讲的清楚的，以后有机会再交流。互联网时代数据源做数据的人，从非互联网进入到互联网的特点是面对的数据源类型忽然多了起来...

如果需要修改数据表的结构就会十分困难。而NoSQL数据库由于面对的是大量非结构化的数据的存储，它采用的是动态结构，对于数据类型和结构的改变非常的适应，可以根据数据存储的需要灵活的改变数据库的结构。[]数据库存储规范关系型数据库为了避免重复、规范化数据以及充分利用好存储空间，把数据按照小关系表的形式进行存储，这样数据管理的就可以变得很清晰、一目了然，当然这主要是一张数据表的情况。如果是多张表情况就不一样了，由于数据涉及到多张数据表，数据表之间存在着复杂的关系，随着数据表数量的增加，数据管理会越来越复杂。而NoSQL数据库的数据存储方式是用平面数据集的方式集中存放，虽然会存在数据被重复存储...

大数据(bigdata)，或称巨量资料，指的是所涉及的资料量规模巨大到无法通过目前主流软件工具，在合理时间内达到撷取、管理、处理、并整理成为帮助企业经营决策更积极目的的资讯。(在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》中大数据指不用随机分析法（抽样调查）这样的捷径，而采用所有数据的方法[2]）大数据的4V特点：Volume（大量）、Velocity（高速）、Variety（多样）、Value（价值）。其实大数据是一个概念，你不能定义为大，或者多，或者复杂。在不同行业，不同技术背景的情况下，对于大数据的解释是不一样的。虽然目前我们不能用一个明确地概念来描述它，但是，我们...

数据采集(DAQ)，又称数据获取，是指从传感器和其它待测设备等模拟和数字被测单元中自动采集非电量或者电量信号,送到上位机中进行分析，处理。数据采集系统是结合基于计算机或者其他特用测试平台的测量软硬件产品来实现灵活的、用户自定义的测量系统。采集一般是采样方式，即隔一定时间（称采样周期）对同一点数据重复采集。采集的数据大多是瞬时值，也可是某段时间内的一个特征值。数据采集，又称数据获取，是利用一种装置，从系统外部采集数据并输入到系统内部的一个接口。数据采集技术广泛应用在各个领域。比如摄像头，麦克风，都是数据采集工具。非结构化数据随着云计算、大数据、物联网等新兴技术的蓬勃发展呈现出井喷式的增长。大邑商...

数据采集的三大要点：采集的多方面性：采集的数据量足够大具有分析价值、数据面足够支撑分析需求。比如查看app的使用情况这一行为，我们需要采集从用户触发时的环境信息、会话、以及背后的用户id，、需要统计这一行为在某一时段触发的人数、次数、人均次数、活跃比等。采集的多维性：数据更重要的是能满足分析需求。灵活、快速自定义数据的多种属性和不同类型，从而满足不同的分析目标。比如“查看app的使用情况”这一行为，我们需要采集用户使用的app的哪些功能、点击频率、使用时常、打的app的时间间隔等多个属性。才能使采集的结果满足我们的数据分析！采集的高效性：高效性包含技术执行的高效性、团队内部成员协同...

被采集数据是已被转换为电讯号的各种物理量，如温度、水位、风速、压力等，可以是模拟量，也可以是数字量。采集一般是采样方式，即隔一定时间（称采样周期）对同一点数据重复采集。采集的数据大多是瞬时值，也可是某段时间内的一个特征值。准确的数据量测是数据采集的基础。数据量测方法有接触式和非接触式，检测元件多种多样。不论哪种方法和元件，均以不影响被测对象状态和测量环境为前提，以保证数据的正确性。数据采集含义很广，包括对面状连续物理量的采集。在计算机辅助制图、测图、设计中，对图形或图像数字化过程也可称为数据采集，此时被采集的是几何量（或包括物理量，如灰度）数据。数据库就是"按照数据结构来组织、存储和管理数据的...

我在这里整理一个表格不同时代数据源的差异性（备注可能整理的有点不全）：数据平台的用户：总结下来互联网的数据平台“服务”方式迭代演进大约可以分为三个阶段。阶段一：约在2008年-2011年初的互联网数据平台，那时建设与使用上与非互联网数据平台有这蛮大的相似性，主要相似点在数据平台的建设角色、与使用到的技术上。老板们、运营的需求主要是依赖于报表、分析报告、临时需求、商业智能团队的数据分析师去各种分析、临时需求、挖掘，这些角色是数据平台的适用方。ETL开发工程师、数据模型建模、数据架构师、报表设计人员，同时这些角色又是数据平台数据建设与使用方。数据平台的技术框架与工具实现主要有技术架构师、J...