同时淘宝的数据集群也变为国内比较大的数据仓库集群。随着2010年引入了hadoop&hive平台进行新一代的数据平台的构建，此时的Greenplum因为的IO吞吐量以及有限的任务并发安排到了网站日志的处理以及给分析师提供的数据分析服务。该阶段的数据模型是根据业务的特性采用退化、扁平化的模型设计方式去构建的。阶段二：互联网的数据平台除了受到技术、数据量的驱动外，同时还来自数据产品经理梳理用户的需求按照产品的思维去构建并部署在了数据的平台上。互联网是一个擅长制造流程新概念的行业。约在2011年到2014年左右，随着数据平台的建设逐渐的进入快速迭代期，数据产品、数据产品经理这两个词逐渐的升温以及被得到认可（备注：数据产品相关内容个人会在数据产品系列中做深入分享），同时数据产品也随着需求、平台特性分为面向用户级数据产品、面向平台工具型产品两个维度分别去建设数据平台。企业各个主要角色都是数据平台用户。各类数据产品经理（偏业务数据产品、偏工具平台数据产品）推进数据平台的建设。分析师参与数据平台直接建设比重增加。数据开发、数据模型角色都是数据平台的建设者与使用者（备注：相对与传统数据平台的数据开发来说。数据的选择、类型、数量、采集方法、详细程度取决于系统应用目标、功能、管理与分析的要求。温江区政商数据可行性报告
对于大数据而言，数据仓库承载着整个企业的全业务的数据。早期数仓在关系型数据如Oracle，MySql上。到大数据时代，基于hadoop生态的大数据架构，数仓基本上都是基于hive的数仓。对于很多大数据开发者而言，特别是早期，很多开发者认为hive数仓就是和业务相关，隐射Hdfs数据文件的一张张表。针对于hive数仓而言，终看到的确实是一张纸表，但这些表是如何根据业务抽象出来的、表之间的关系、表如何更好的服务应用这些问题是数仓建模、数仓技术架构的。一个好的数仓技术架构和数仓建模。可以减少开发的难度，提高数据服务性能，同时能够在很大层面上对业务形成数据中心，降低存储，计算资源的消耗等等.数仓架构的演变传统经典数仓架构->离线数仓架构->实时数仓架构->Lambda数仓架构->Kappa数仓架构->混合数仓架构a.传统数仓架构在大数据领域应用不多了，这类架构在早期数据量不大，对性能的要求不高，业务较单一的场景中应用比较多，这类数仓主要以oracle，mysql这种关系型数据库的范式设计原则设计b.离线数仓架构是在大数据领域应运而生的。主要是基于hadoop生态组件的大数据技术架构方案中以hive为主的，在设计层面遵循和借鉴传统数仓的设计思路和规范。温江区政商数据可行性报告数据是关于事件之一组离散且客观的事实描述，是构成消息和知识的原始材料。
数据质量、数据安全、数据生命周期等方面开展实施。数据治理是一个企业安身立命的根本。元数据:业务实体数据的标识，在大数据领域，一个数仓可以有成百上千，甚至成千上万或更多的表。这些表的含义，表的每个字段的含义只有通过元数据才能知道。业务实体数据：业务产生的数据的数据内容，业务实体数据以外的数据表都是为其服务的。数据质量：保证业务实体数据完整性、准确性、一致性、时效性。每一个操作业务实体数据的任务都应该配置数据质量监控，严禁任务裸奔。可建设统一数据质量告警中心从以下四个方面进行监控、预警和优化任务。数据安全：即数据的保密性、真实性、完整性、未授权拷贝和所寄生系统的安全性。数据生命周期：对于某些数据，用完可以删除掉，以便减少存储空间，数据生命周期数据定义了每个业务实体数据的周期，是否为热数据或冷数据，是否需要长久保留还是完成对应功能即可删除等6.数仓的衍生随着大数据的发展及互联网巨头对大数据技术的深耕及奉献，特别是阿里。在数仓的基础上衍生了数据湖和数据集市的概念数据湖：是一个集中化存储海量的、多个来源，多种类型数据，并可以对数据进行快速加工，分析的平台，本质上是一套先进的企业数据架构。
从2000年开始接触数据仓库，大约08年开始进入互联网行业。很多从传统企业数据平台转到互联网同学是否有感觉：非互联网企业、互联网企业的数据平台所面向用户群体是不同的。那么，这两类的数据平台的建设、使用用户又有变化？数据模型设计又有什么不同呢？我们先从两张图来看用户群体的区别。用户群体之非互联网数据平台用户企业的boss、运营的需求主要是依赖于报表、商业智能团队的数据分析师去各种分析与挖掘探索；支撑这些人是ETL开发工程师、数据模型建模、数据架构师、报表设计人员，同时这些角色又是数据平台数据建设与使用方。数据平台的技术框架与工具实现主要有技术架构师、JAVA开发等。用户面对是结构化生产系统数据源。用户群体之互联网数据平台用户互联网企业中员工年龄比非互联网企业的要年轻、受教育程度、对计算机的焦虑程度明显比传统企业要低、还偶遇其它各方面的缘故，导致了数据平台所面对用户群体与非互联网数据平台有所差异化；互联网数据平台的使用与建设方是来自各方面的人，数据平台又是技术、数据产品推进建设的。分析师参与数据平台直接建设比重增加。原有的数据仓库开发与模型架构师的职能也从建设平台转为服务与咨询。用户面对是数据源多样化。大数据提供了一种人类认识复杂系统的新思维和新手段。
数据采集的四大步骤：1.明确数据需求：由于客户所处行业不同，诉求也就各不一样。所以首先必须明确客对于数据的用途，确定客户需求。根据客户所需搜集的数据信息与客户沟通之后，总结需要收集的字段。2.调研数据来源：根据客户需求确定数据采集范围。然后锁定采集范围和对采集的数据量进行预估。细化客户需求，研究采集方向。3.确定用什么采集工具、软件、代码面对不同的网站我们只有选择更加合适的组合才能使采集结果更加有效。4.确定存储的方式：根据采集量的大小对数据储存的方式进行划分。比较小的数据，一般使用excel表格存储；几千万的大型数据，选择数据库存储；对于GB级别的数据，就得用Hadoop、Spark、Redis等分布式存储和处理技术的方法才能做到较好的管理和计算。选择正确数据存储的方式使客户对数据的使用与管理更加便捷。“小数据”是什么意思？温江区政商数据可行性报告
世界各国高度重视发展大数据和数字经济，纷纷出台相关政策。温江区政商数据可行性报告
所以NoSQL数据库大数据管理、检索、读写、分析以及可视化方面具有关系型数据库不可比拟的优势。[]数据库授权方式关系型数据库常见的有Oracle，SQLServer，DB，Mysql，除了Mysql大多数的关系型数据库如果要使用都需要支付一笔价格高昂的费用，即使是的Mysql性能也受到了诸多的限制。而对于NoSQL数据库，比较主流的有redis，HBase，MongoDb，memcache等产品，通常都采用开源的方式，不需要像关系型数据库那样，需要一笔高昂的花费。数据库分布式数据库编辑所谓的分布式数据库技术，就是结合了数据库技术与分布式技术的一种结合。具体指的是把那些在地理意义上分散开的各个数据库节点，但在计算机系统逻辑上又是属于同一个系统的数据结合起来的一种数据库技术。既有着数据库间的协调性也有着数据的分布性。这个系统并不注重系统的集中控制，而是注重每个数据库节点的自治性。此外为了让程序员能够在编写程序时可以减轻工作量以及系统出错的可能性，一般都是完全不考虑数据的分布情况，这样的结果就使得系统数据的分布情况一直保持着透明性。[]数据性概念在分布式数据库管理系统中同样是十分重要的一环，但是不仅如此。温江区政商数据可行性报告
成都达智咨询股份有限公司位于成都市人民东路61号，拥有一支专业的技术团队。致力于创造***的产品与服务，以诚信、敬业、进取为宗旨，以建达智咨询,达智方舆,达智品诺,达智智业产品为目标，努力打造成为同行业中具有影响力的企业。公司以用心服务为重点价值，希望通过我们的专业水平和不懈努力，将商务信息咨询;市场调查研究预测;企业管理咨询;企业策划咨询、营销咨询、经济贸易咨询;会议服务;计算机技术的开发、转让、咨询、服务;数据处理、分析及咨询服务;应用软件服务;质检技术服务;公共关系服务;互联网数据服务;地理信息加工处理、测绘服务;广告设计、制作、代理、发布。等业务进行到底。自公司成立以来，一直秉承“以质量求生存，以信誉求发展”的经营理念，始终坚持以客户的需求和满意为重点，为客户提供良好的数据调研分析，数据采集，数据策略咨询，数据智慧科技系统，从而使公司不断发展壮大。