TeRiTeRi

未分类

MySql快速导入大SQL文件

MySql安装位置可通过which mysql或whereis mysql找到 修改mysql配置文件my.ini,通常在/etc下 对于MyISAM,调整系统参数:bulk_insert_buffer_size(至少单个文件大小的2倍以上) 对于InnoDB,调整系统参数:innodb_log_buffer_size(至少单个文件大小的2倍以上,导入完成后可以改回默认的8M,注意不是innodb_buffer_pool_size。) 除主键外,删除其他索引,导入完成后重建索引。 关闭自动提交:autocommit…

2020年4月12日 0条评论 1651点热度 0人点赞 kamisamak 阅读全文
Scala

SparkSQL入门详解

//--------------------------------------------------------------------------------------------------------------------- //--------------------------------------------------------------------------------------------------------------------- [collapse title="开窗函…

2020年4月11日 0条评论 1943点热度 0人点赞 kamisamak 阅读全文
Scala

Spark 入门详解 β

2020年4月11日 0条评论 1702点热度 0人点赞 kamisamak 阅读全文
Hive

Hive入门详解

2020年4月10日 0条评论 2017点热度 0人点赞 kamisamak 阅读全文
Spark

Spark 入门详解 α

2020年4月10日 1条评论 2040点热度 0人点赞 kamisamak 阅读全文
Java

Scala入门详解

 

2020年3月31日 0条评论 1827点热度 0人点赞 kamisamak 阅读全文
Kafka

Kafka安装部署与代码

Kafka安装部署 前置:jdk/zookeeper安装部署,并能正常启动。 #文件解压 tar zxvf kafka_2.11-1.0.0.tgz  -C ../servers/ vim /export/servers/kafka_2.11-1.0.0/conf/server.properties #(每个节点不能相同) Broker.id=0 log.dirs=/export/servers/kafka_2.11-1.0.0/logs/ zookeeper.connect=node01:2181,node02:…

2020年3月30日 0条评论 1779点热度 0人点赞 kamisamak 阅读全文
Kafka

Kafka笔记

企业中离线业务场景实时业务场景都需要使用到kafka Kafka具备数据的计算能力和存储能力,但是两个能力相对(MR/SPARK,HDFS)较弱. Kafka角色的角色与hbase比较像,层级关系比较多。   消息:应用之间传送的数据,或点与点之间,点与多点之间传递的数据,传递的信息。 消息队列:是一种应用间的通信方式以队列的形式传递。   消息队列的应用场景 应用解耦合:多应用间通过消息队列对同一消息进行处理 异步处理:多应用对消息队列中同一消息进行处理 限流削峰:用于秒杀或抢购活动中,避免流…

2020年3月30日 0条评论 1713点热度 0人点赞 kamisamak 阅读全文
Kafka

Kafka知识点总结

Kafka知识点总结 Kafka生态系统四大角色,生产者(Producer)、kafka集群(Broker)、消费者(Consumer)、zookeeper 每个消费者都必须属于一个消费组,一个组内的消费者可以多个。 一个Topic可以有1到多个多个分区(Partition) 一个分区可以有1到多个segment。 每个segment可以有由一个log和一个index组成。 被复制的分区叫做主副本(Leader),复制出来的叫做从副本(Follower) 生产者只往主副本写数据,消费者只在主副本拉取数据。 从副本只…

2020年3月30日 0条评论 1609点热度 0人点赞 kamisamak 阅读全文
Hadoop

Yarn知识点整理

1、什么是Yarn 通用资源管理系统和调度平台 2、Yarn特点: 支持多计算框架 资源利用率高,运行成本低,数据共享。   3、Yarn的意义: 降低了企业硬件的成本(多个集群变成一个集群),减少了资源的了浪费,运营成本低。   资源指的是什么? CPU   内存 4、Yarn基本组成 ResourceManager  :一个集群资源调度的管理者 NodeManager :一个节点资源调度的管理者(集群各个节点资源的工作者) ApplicationMaster : 一个计算任务的管理者 Con…

2020年3月30日 0条评论 1613点热度 1人点赞 kamisamak 阅读全文
1…1415161718…23
RevolverMaps

COPYRIGHT © 2023 TeRiTeRi. ALL RIGHTS RESERVED.

Theme Kratos Made By Seaton Jiang