TeRiTeRi

大数据
Docker

Superset 基于Docker的安装&入门解析

2020年5月14日 0条评论 1859点热度 0人点赞 kamisamak 阅读全文
MongoDB

Centos7下单机部署MongoDB 4.2.6 及使用说明介绍

 

2020年5月11日 0条评论 1624点热度 0人点赞 kamisamak 阅读全文
Hadoop

Centos7下Apache Hadoop 3.2.1伪分布式部署安装

分布式的话修改hdfs-site.xml中的dfs.replication  workers中的节点等  

2020年5月10日 2条评论 1717点热度 0人点赞 kamisamak 阅读全文
ETL

什么是退化维度?(Degenerate Dimensions)

退化维度的维度表可以被剔除,从而简化维度数据仓库的模式。因为简单的模式比复杂的更容易理解,也有更好的查询性能。 当一个维度没有数据仓库需要的任何数据时就可以退化此维度。需要把退化维度的相关数据迁移到事实表中,然后删除退化的维度。 维度属性也可以存储到事实表中,这种存储到事实表中的维度列被称为“退化维度”。与其他存储在维表中的维度一样 ,退化维度也可以用来进行事实表的过滤查询、实现聚合操作等。那么究竟怎么定义退化维度呢?比如说订单id,这种量级很大的维度,没必要用一张维度表来进行存储,而我们进行数据查询或者数据过滤的…

2020年5月10日 0条评论 2468点热度 1人点赞 kamisamak 阅读全文
ETL

什么是拉链表

在数据仓库的数据模型设计过程中,经常会遇到这样的需求: 1. 数据量比较大; 2. 表中的部分字段会被update,如用户的地址,产品的描述信息,订单的状态等等; 3. 需要查看某一个时间点或者时间段的历史快照信息,比如,查看某一个订单在历史某一个时间点的状态, 比如,查看某一个用户在过去某一段时间内,更新过几次等等; 4. 变化的比例和频率不是很大,比如,总共有1000万的会员,每天新增和发生变化的有10万左右; 5. 如果对这边表每天都保留一份全量,那么每次全量中会保存很多不变的信息,对存储是极大的浪费; 拉链…

2020年5月6日 0条评论 1746点热度 0人点赞 kamisamak 阅读全文
ETL

数据仓库维度模型设计

数据仓库维度模型设计 1 维度建模基本概念 维度模型是数据仓库领域大师Ralph Kimall所倡导,他的《数据仓库工具箱》,是数据仓库工程领域最流行的数仓建模经典。维度建模以分析决策的需求出发构建模型,构建的数据模型为分析需求服务,因此它重点解决用户如何更快速完成分析需求,同时还有较好的大规模复杂查询的响应性能。 维度建模是专门应用于分析型数据库、数据仓库、数据集市建模的方法。数据集市可以理解为是一种"小型数据仓库"。 1.1. 事实表 发生在现实世界中的操作型事件,其所产生的可度量数值,存储在事实表中。从最低的…

2020年5月5日 0条评论 1930点热度 0人点赞 kamisamak 阅读全文
Spark

SparkContext详解

  本文为CSDN博主「初心江湖路」的原创文章,原文链接:https://blog.csdn.net/weixin_43878293/article/details/90020221

2020年4月27日 0条评论 1930点热度 0人点赞 kamisamak 阅读全文
ETL

Kettle入门简单解析

2020年4月27日 0条评论 1844点热度 0人点赞 kamisamak 阅读全文
Hive

Spark-On-Hive

官网:http://spark.apache.org/docs/latest/sql-data-sources-hive-tables.html

2020年4月26日 0条评论 982点热度 0人点赞 kamisamak 阅读全文
Scala

记录一次Spark - org.apache.spark.sql.AnalysisException异常 2020.04.16

因为使用了笛卡尔积,但是在Spark2.x中是笛卡尔积操作是默认关闭,如果需要开启,则添加如下配置 val sparkSession = SparkSession.builder().master("local[*]").appName("wula") .config("spark.sql.crossJoin.enabled","true").getOrCreate()

2020年4月24日 0条评论 1480点热度 0人点赞 kamisamak 阅读全文
12345…10
RevolverMaps

COPYRIGHT © 2023 TeRiTeRi. ALL RIGHTS RESERVED.

Theme Kratos Made By Seaton Jiang