自用-yml配置文件
123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101server : port : 8080 ##项目名字配置 #servlet : # context-path : /demo tomcat : uri-encoding : UTF-8 #xx 报错修改的地方 max-connections: 200000 max-http-form-post-size: 9000000 threads: max: 128 min-spare: 5spring : # 环境 dev|test|prod profiles : active : dev #引入其他配置文件,例如ftpHX 未配置 ...
Doris记录
Apache Doris 简介Apache Doris(原百度 Palo)是一个现代化的MPP(大规模并行处理)分析型数据库,专为高并发、低延迟的实时分析场景设计。它结合了Google Mesa和Apache Impala的优点,提供了高性能、易扩展、高可用的分布式SQL数据分析解决方案。Doris采用列式存储引擎,支持多维分析、即席查询、统一的批流处理等特性,广泛应用于报表分析、即席查询、数据可视化、实时大屏等场景。
核心特性
简单易用:兼容MySQL协议,支持标准SQL,无需复杂ETL
高性能:MPP架构,向量化执行引擎,智能索引
高可用:支持多副本自动同步,故障自动恢复
可扩展:支持在线扩缩容,无需停机
统一的数据分析平台:支持多种数据模型(明细、聚合、更新)和数据源接入
Doris架构Doris主要由两种角色组成:
**FE (Frontend)**:负责元数据管理、查询解析、规划和调度
**BE (Backend)**:负责数据存储和查询执行
FE角色
Leader FE:处理所有元数据写操作,保证元数据一致性
Follower FE:接收Leader的元数据更新,提 ...
服务器巡检
巡检命令12top# 查看cpu的空闲时间以及IO等待完成时间
12free -h# 查看avaliable的使用情况
12df -h# 查看磁盘空间占用情况
123getenforce# 使用getenforce命令可以在Linux下查看是否开启了SELinux# 如果为disable则有风险
12systemctl status firewalld# 查看防火墙是否开启
12crontab -l# 查看有没有未知的定时任务
数据库巡检
12select instance_name,host_name,startup_time,status,database_status from v$instance;-- 查看Oracl实例的状态
12select group#,status,type,member from v$logfile; -- 检查Oracle在线日志状态
在Oracle数据库中,v$logfile是一个动态性能视图,它提供了关于在线重做日志文件的信息。这些日志文件是Oracle用于记录所有数据库更改(如插入、更新和删除操作)的物理文件。这些更改随后 ...
Map的四种遍历方式
Entry由于Map中存放的元素均为键值对,故每一个键值对必然存在一个映射关系。Map中采用Entry内部类来表示一个映射项,映射项包含Key和Value (我们总说键值对键值对, 每一个键值对也就是一个Entry)Map.Entry里面包含getKey()和getValue()方法
1234567Iterator<Map.Entry<Integer, Integer>> it=map.entrySet().iterator(); while(it.hasNext()) { Map.Entry<Integer,Integer> entry=it.next(); int key=entry.getKey(); int value=entry.getValue(); System.out.println(key+" "+value); }
entrySetentrySet是 java中 键-值 对的集合,Set里面的类型是Map.Entry,一般可 ...
Doris SQL 特技
group_concatdescriptionSyntax<font style="color:rgb(76, 87, 108);background-color:rgb(237, 242, 250);">VARCHAR GROUP_CONCAT([DISTINCT] VARCHAR str[, VARCHAR sep] [ORDER BY { col_name | expr} [ASC | DESC])</font>该函数是类似于 sum() 的聚合函数,group_concat 将结果集中的多行结果连接成一个字符串。第二个参数 sep 为字符串之间的连接符号,该参数可以省略。该函数通常需要和 group by 语句一起使用。
12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849mysql> select value from test;+-------+| value |+------- ...
Doris分区、分片、副本的基本命令、修复副本思路
关于副本的一些操作查看建表语句1SHOW CREATE TABLE my_table
关闭动态分区123ALTER TABLE my_table SET ( "dynamic_partition.enable" = "false" );
123ALTER TABLE my_table SET ( "dynamic_partition.enable" = "true" );
删除分区1ALTER TABLE my_table DROP PARTITION p202309;
添加分区(顺便设置副本数)1ALTER TABLE my_table ADD PARTITION p1 VALUES LESS THAN ("2015-01-01") ("replication_num"="1");
查看分区1SHOW [TEMPORARY] PARTITIONS FROM [db_name.]table_name [WHERE] [OR ...
Doris索引小总结
在Doris中,添加索引是提升查询性能的重要手段。Doris支持两种类型的索引:内置智能索引和用户创建的二级索引。以下是关于如何在Doris中添加索引的详细步骤和注意事项:
内置智能索引
前缀索引:
基于排序键以有序的方式存储数据,为每1024行数据创建一个前缀索引。
索引中的键是当前1024行组的第一行中已排序列的值。
查询时,通过前缀索引可以快速定位到相关的1024行组,并从那里开始扫描。
特别注意:Doris只有前36个字节能走前缀索引。因此,在创建表时,需要手动指定key,并且索引字段的类型和长度要尽可能精确,以增大索引范围。
ZoneMap索引:
在列存格式上,对每一列自动维护的索引信息,包括Min/Max值、null值个数等。
查询时,会根据范围条件过滤的字段按照ZoneMap统计信息选取扫描的数据范围。
ZoneMap索引对用户是透明的,无需额外操作。
用户创建的二级索引
倒排索引:
用于文本类型的全文检索和普通数值日期类型的等值范围查询。
可以从海量数据中快速过滤出满足条件的行。
不同数据模型下的创建规则:
Aggregate KEY表模型:只能为K ...
G2图使用-创建简单的柱状图
g2plot 是一套简单、易用、并具备一定扩展能力和组合能力的统计图表库,基于图形语法理论搭建而成,”g2plot”中的 g2 即意指图形语法 (the Gramma of Graphics),同时也致敬了 ggplot2。
下面是一个简单的是用例子
12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273747576777879808182838485868788899091929394959697<template> <div ref="chartRef"></div></template><script setup>import { onMounted, ref, defineProps, toRefs } from 'vue';impo ...
Hadoop与hive版本对应
https://blog.csdn.net/qq_33772352/article/details/132234919
Hadoop与Hbase版本对应
Hadoop与Hive版本对应
Hadoop安装和启用
Hadoop简介Hadoop是Apache软件基金会的一个开源分布式计算平台,主要由HDFS(分布式文件系统)、MapReduce(分布式计算框架)和YARN(资源管理系统)三个核心组件构成。它允许使用简单的编程模型在由多台计算机组成的大型集群上分布式处理大数据集。Hadoop具有高可靠性、高扩展性、高容错性和高效性等特点,已成为大数据处理的标准平台。
前提条件在安装Hadoop之前,请确保:
已安装JDK(推荐JDK 8或更高版本)
配置了SSH无密码登录(对于集群环境)
分配了足够的系统资源(内存、存储空间)
环境配置设置Hadoop环境变量环境变量配置是使用Hadoop的第一步,它使系统能够找到Hadoop的可执行文件和库。
123456789# 编辑~/.bashrc或/etc/profile文件vim ~/.bashrc# 添加以下内容export HADOOP_HOME=/soft/hadoopexport PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin# 使配置生效source ~/.bashrc
说明:
HADOOP_ ...
�ȵ���







