sql
SET enable_spill = true;
SET spill_mode = 'auto'; -- 'auto' triggers based on thresholds; 'force' spills regardless of memory usage.

spill_mem_limit_threshold

1.0

sql
        CREATE RESOURCE GROUP my_rg WITH (
            'mem_limit' = '50%',
            'spill_mem_limit_threshold' = '0.8'
        );

be.conf

query_pool_spill_mem_limit_threshold

1.0

default_mv_resource_group_spill_mem_limit_threshold

0.8

query_mem_limit

spill_revocable_max_bytes

0

spill_local_storage_dir

spill_local_storage_dir=/data1/spill;/data2/spill

spill_mem_limit_threshold

1.0

query_pool_spill_mem_limit_threshold

1.0

default_mv_resource_group_spill_mem_limit_threshold

0.8

spill_revocable_max_bytes

0

query_mem_limit

SET pipeline_dop = 8;

max_cpu_cores

SHOW USAGE RESOURCE GROUPS;

Pipeline

auto

pipeline_dop

SET pipeline_dop = <코어수의 절반>;

auto

Pending

root

_statistics_

DELETE

_statistics_

DELETE FROM _statistics_...

_statistics_

DELETE

sql
-- 실행 중인 프로세스 목록 확인
SHOW FULL PROCESSLIST;

-- root가 실행 중인 DELETE 쿼리의 Id를 찾아 KILL
KILL <Connection_Id>;

sql
-- 통계 정보 자동 수집 비활성화
SET GLOBAL enable_statistic_collect = false;

-- 통계 정보 자동 정리 주기 비활성화 (0 또는 매우 큰 값)
-- (FE config 파일이나 ADMIN SET CONFIG 명령으로 조정)
ADMIN SET FRONTEND CONFIG ("statistic_cleanup_interval_sec" = "0");

_statistics_

ANALYZE

SHOW PROC '/backends';

SHOW RUNNING QUERIES;

State=PENDING

lock

waiting for lock

root

root

DELETE FROM _statistics_...

INSERT INTO _statistics_...

Planning

_statistics_

DELETE

sql
-- 통계 테이블의 데이터 양 확인
SELECT count(*) FROM _statistics_.column_statistics;
SELECT count(*) FROM _statistics_.table_statistic_v1;

fe.log

fe.warn.log

DeadlockChecker

AnalyzeJob

Statistic

Slow to collect statistics

Waiting for the lock

_statistics_

SHOW ANALYZE STATUS

ANALYZE

sql
SHOW ANALYZE STATUS;

sql
-- FE 설정 확인 (Admin 권한 필요)
ADMIN SHOW FRONTEND CONFIG LIKE '%statistic%';

DELETE

KILL

sql
-- 자동 수집 비활성화
SET GLOBAL enable_statistic_collect = false;

v3.1

_statistics_

root

DELETE

_statistics_

WHERE

JOIN

GROUP BY

ANALYZE

statistic_cleanup_interval_sec

_statistics_

SHOW DATA

_statistics_

sql
-- _statistics_ 데이터베이스 전체 테이블의 용량과 로우 수 확인
SHOW DATA FROM _statistics_;

Size

column_statistics

sql
-- 1. 가장 핵심적인 통계 정보 테이블 (가장 먼저 확인)
SELECT count(*) FROM _statistics_.column_statistics;

-- 2. 히스토그램 정보 (기능을 사용하는 경우 비대해질 수 있음)
SELECT count(*) FROM _statistics_.histogram_statistics;

-- 3. 테이블 단위 통계 요약
SELECT count(*) FROM _statistics_.table_statistic_v1;

-- 4. (v3.5 이상) 다중 컬럼 결합 통계
SELECT count(*) FROM _statistics_.multi_column_statistics;

column_statistics

DELETE FROM _statistics_...

SHOW FULL PROCESSLIST

root

_statistics_

TRUNCATE

ANALYZE

Waiting for lock

fe.conf

_statistics_

sql
    SHOW COMPUTE NODES;

sql
    SHOW PROC '/backends';

CpuUsedPct

sql
    SHOW PROC '/current_queries';
    -- v3.4 이상에서 모든 FE의 쿼리를 보려면
    SHOW PROC '/global_current_queries';

QueryId

MemoryUsage

CPUTime

ExecTime

sql
    SHOW PROCESSLIST;

bash
# 특정 CN Pod의 실시간 자원 사용량 확인
kubectl top pod <cn-pod-name> -n <namespace>

starrocks_be_query_execution_count

starrocks_be_cpu_usage

SHOW COMPUTE NODES;

CpuUsedPct

externalFull

externalFull

sql
SHOW ANALYZE STATUS WHERE Status = 'FAILED';

Reason

sql
SET GLOBAL enable_query_trigger_analyze = false;

Reason

sql
-- 실패한 작업들만 골라서 실패 원인 확인
SHOW ANALYZE STATUS WHERE Status = 'FAILED';

externalFull

KILL ANALYZE [ID]

txn_request

BEGIN

COMMIT

ROLLBACK

starrocks_fe_txn_total_latency_ms

starrocks_fe_txn_write_latency_ms

starrocks_fe_txn_publish_latency_ms

COMMIT

VISIBLE

publish_schedule_latency

publish_execute_latency

publish_ack_latency

VISIBLE

rate(starrocks_fe_txn_total_latency_ms_sum[5m]) / rate(starrocks_fe_txn_total_latency_ms_count[5m])

fe.audit.log

sql
-- 현재 실행 중인 쿼리와 각 쿼리의 진행 시간 확인
SHOW PROC '/current_queries';

sql
SHOW PROC '/fe_locks';

fe.gc.log.0

sql
-- 1. 프로파일 수집 활성화
SET is_report_success = true;

-- 2. 느린 쿼리 실행 (또는 실행 중인 쿼리 ID 확인)

-- 3. 프로파일 결과 확인
-- 웹 UI(<http://FE_IP:8030/query>)에서 확인하는 것이 가장 직관적입니다.

KILL QUERY [ID]

bypass_query_queue

externalFull

KILL

sql
    SHOW PROC '/current_queries';

ConnectionId

QueryId

sql
    SHOW FULL PROCESSLIST;

Id

sql
    -- ConnectionId가 12345인 경우
    KILL QUERY 12345;

sql
    -- ConnectionId가 12345인 경우
    KILL 12345;

ALTER RESOURCE GROUP

spill_mem_limit_threshold

sql
-- default_wg의 spill 임계치를 80%로 설정
ALTER RESOURCE GROUP default_wg WITH (
    'spill_mem_limit_threshold' = '0.8'
);

be.conf

spill_local_storage_dir=/data1/spill;/data2/spill

sql
    SET GLOBAL enable_spill = true;
    SET GLOBAL spill_mode = 'auto'; -- 자동으로 임계치 도달 시 작동

트리거 시점 =

BE 전체 쿼리 메모리 제한

×

mem_limit(1.0)

×

spill_mem_limit_threshold

sql
SHOW RESOURCE GROUPS;

sql
-- default_wg의 spill 임계치를 80%로 설정
ALTER RESOURCE GROUP default_wg WITH (
    'spill_mem_limit_threshold' = '0.8'
);

spill_mem_limit_threshold

spill_mem_limit_threshold = 0.8

auto

spill_mode = 'auto'

spill_mode = 'force'

force

sql
ALTER RESOURCE GROUP default_wg WITH (
    'spill_mem_limit_threshold' = '0.8'
);

spill_mem_limit_threshold

sql
    SHOW RESOURCE GROUPS ALL;

spill_mem_limit_threshhold

spill_mem_limit_threshold

query_queue_mem_used_pct_limit

spill_mem_limit_threshold

query_queue_mem_used_pct_limit = 0.6

Pending

spill_mem_limit_threshold = 0.8

spill_local_storage_dir

enable_spill = true

spill_mode = 'auto'

spill_local_storage_dir

A + B

starrocks_fe_query_latency_ms

starrocks_fe_query_latency_ms_p99

starrocks_fe_query_latency_ms_p90

starrocks_fe_query_latency_ms_p50

starrocks_fe_query_total

starrocks_fe_query_err

starrocks_fe_resource_group_query_latency

starrocks_fe_resource_group_query_total

starrocks_fe_resource_group_query_err

starrocks_fe_query_queue_pending_queries

starrocks_fe_query_queue_total_queued_queries

fe/log/fe.audit.log

QueryTime

query_queue_mem_used_pct_limit

query_queue_mem_used_pct_limit = 0.8

42.21 / 51.84

query_queue

mem_limit

mem_limit

query_queue

default_wg

spill_mem_limit_threshold

1.0

sql
ALTER RESOURCE GROUP default_wg WITH ( 'spill_mem_limit_threshold' = '1' );

sql
SHOW RESOURCE GROUPS;

spill_mem_limit_threshold

ALTER

mem_limit

mem_limit

90%

mem_limit

storage_page_cache_limit

datacache_mem_size

metadata_cache_memory_limit_percent

load_process_max_memory_limit_percent

sql
-- 캐시 관련 설정값 확인
ADMIN SHOW CONFIG LIKE '%cache%';
-- 전체 메모리 제한 확인
ADMIN SHOW CONFIG LIKE 'mem_limit';

mem_limit

Page Cache

Data Cache

VALUE="20G"

SHOW FRONTLENDS;

enable_profile

enable_profile

sql
    SET enable_profile = true;
    -- 또는 시스템 전체 적용 (권장하지 않음, 부하 주의)
    SET GLOBAL enable_profile = true;

profile_info_reserved_max_num

sql
-- 1. 최근 프로파일 리스트 확인
SHOW PROFILELIST;

-- 2. 특정 Query ID의 프로파일 가져오기
SELECT get_query_profile('쿼리_ID_값');

big_query_profile_threshold = '10s'

be.conf

ADMIN SET CONFIG

datacache_enable

be.conf

properties
    datacache_enable = false

sql
ADMIN SET CONFIG ("datacache_mem_size" = "0");

sql
ADMIN SET CONFIG ("datacache_disk_size" = "0");

properties
    block_cache_enable = false

properties
    disable_storage_page_cache = true

sql
SHOW BACKENDS\G
-- 결과 중 DataCacheMetrics 항목의 Status가 Disabled이거나 
-- DiskUsage, MemUsage의 할당량(Quota)이 0B/0B인지 확인합니다.

SHOW PROC '/compute_nodes'

SHOW COMPUTE NODES

CpuUsedPct

SHOW PROC

Alive

LastHeartbeat

cgroups

/sys/fs/cgroup/...

<http://cn.INFO|cn.INFO>

cn.WARNING

SHOW COMPUTE NODES\G

SYSTEM-level OPERATE

cluster_admin

fe.log

enable_query_queue_v2 = true

sql
CREATE RESOURCE GROUP cpu_intensive_rg
TO (user='analytics_user')
WITH (
    "cpu_weight" = "10",              -- 다른 그룹 대비 CPU 우선순위 설정
    "concurrency_limit" = "20",       -- 동시 실행 쿼리 수를 제한하여 CPU 오버헤드 방지
    "max_cpu_cores" = "16"            -- 개별 BE에서 사용할 최대 코어 수 제한
);

spill

sql
CREATE RESOURCE GROUP mem_intensive_rg
TO (role='data_scientist')
WITH (
    "mem_limit" = "40%",              -- 이 그룹이 전체 메모리의 40% 이상 쓰지 못하게 제한
    "big_query_mem_limit" = "10GB",   -- 개별 쿼리가 사용할 수 있는 최대 메모리 캡 설정
    "spill_mem_limit_threshold" = "0.8", -- 메모리의 80% 사용 시 디스크 스필링(Spilling) 유도
    "concurrency_limit" = "5"         -- 메모리 폭주 방지를 위해 동시 실행 수를 낮게 유지
);

pipeline_dop

sql
-- 실행 중인 드라이버 수가 High Water를 넘으면 병렬도를 낮춤
SET GLOBAL query_queue_driver_high_water = 0; -- 0은 자동 계산 (avg_be_cpu_cores * 16)
SET GLOBAL query_queue_driver_low_water = 0;  -- 0은 자동 계산 (avg_be_cpu_cores * 8)

sql
SET GLOBAL query_queue_mem_used_pct_limit = 0.9;      -- BE 메모리 90% 도달 시 큐잉
SET GLOBAL query_queue_cpu_used_permille_limit = 800; -- CPU 사용률 80% 도달 시 큐잉

query_type in ('select')

query_queue_max_queued_queries = 100

query_queue_pending_timeout_second = 300

IsPending

sql
    SHOW PROCESSLIST; -- IsPending이 true이면 현재 큐에서 대기 중인 쿼리입니다.

default_wg

ALTER SYSTEM DROP COMPUTE NODE

SHOW PROC '/compute_nodes';

sql
-- SHOW PROC '/compute_nodes' 결과에서 확인된 IP와 포트를 사용
ALTER SYSTEM DROP COMPUTE NODE "IP:PORT";

ALTER SYSTEM DROP COMPUTE NODE "10.0.0.1:9050";

DROP

SHOW WAREHOUSES;

SHOW COMPUTE NODES

SHOW PROC '/compute_nodes'

replicas

fe.log

DROP COMPUTE NODE

ALTER SYSTEM RESTART FE

DECOMMISSION

DROP

ALTER SYSTEM

sql
ALTER SYSTEM CREATE IMAGE;

image.<version>

fe.log

triggering a new checkpoint manually...

finished save image...

meta/image/

image.xxxx

fe.conf

edit_log_roll_num

checkpoint_number

sql
ADMIN SHOW FRONTEND CONFIG LIKE 'checkpoint_number';
-- 필요한 경우 동적으로 변경 (버전에 따라 다를 수 있음)
ADMIN SET FRONTEND CONFIG ("checkpoint_number" = "100000");

meta

ALTER SYSTEM CREATE IMAGE

Exception when generate new image file

sql
SHOW PROCESSLIST;

sql
-- 실행 시간이 60초 이상인 쿼리만 확인
SELECT * FROM information_schema.exec_queries WHERE duration > 60;

sql
KILL QUERY <connection_id>;

KILL QUERY 12345;

sql
KILL <connection_id>;

KILL 12345;

INSERT INTO

KILL

sql
    STOP ROUTINE LOAD FOR <job_name>;

sql
    CANCEL LOAD FROM <db_name> WHERE LABEL = "label_name";

SUPER

KILL

SHOW PROCESSLIST;

SHOW RESOURCE GROUPS;

sql
SET enable_profile = true;
-- 쿼리 실행 (대기 중이라도 어느 정도 시간이 지나면 중단 후 확인 가능)
-- 그 다음 가장 최근 쿼리의 프로파일 ID 확인
SELECT LAST_QUERY_ID();
-- 상세 프로파일 확인 (StarRocks Dashboard가 있다면 웹 UI에서 보는 것이 훨씬 편합니다)
GET_QUERY_PROFILE('쿼리ID');

EXPLAIN <쿼리문>;

BROADCAST

SHUFFLE

SHOW PROC '/locks';

SHOW BACKENDS;

SET enable_profile = true

DISTRIBUTED BY

enable_scan_datacache

sql
SELECT /*+ SET_VAR(enable_scan_datacache = false) */ 
    * 
FROM your_external_table 
WHERE id = 100;

sql
-- 1. 캐시 비활성화
SET enable_scan_datacache = false;

-- 2. 쿼리 실행
SELECT * FROM your_external_table ...;

-- 3. 다시 활성화 (필요 시)
SET enable_scan_datacache = true;

enable_scan_datacache

SHOW PROC '/compute_nodes';

cn.conf

enable_datacache = true

datacache_path

fslib star cache meta

http://<CN_IP>:<CN_HTTP_PORT>/mem_tracker

starlet_cache

fslib

current_consumption

sql
-- CN 노드의 메모리 트래커 정보를 조회 (버전별로 경로가 다를 수 있음)
SHOW PROC '/mem_tracker';

storage_root_path

rm -rf ${storage_root_path}/starlet_cache/star_cache/meta

mem_tracker

log/be.INFO

log/be.out

grep -i "cache" <http://be.INFO|be.INFO>

DataCache failed to initialize

Block cache meta error

${storage_root_path}/starlet_cache/

bash
    rm -rf /your/cache/path/starlet_cache/star_cache/meta

/memz

http://<CN_IP>:<HTTP_PORT>/memz

starlet

bash
    # 해당 CN 노드의 프로세스를 중지합니다.

storage_root_path

bash
    rm -rf <데이터_캐시_경로>/starlet_cache/star_cache/meta

log/be.INFO

cache

starlet

log/

<http://cn.INFO|cn.INFO>

<http://be.INFO|be.INFO>

bash
    grep "heartbeat" log/cn.INFO | tail -n 20

get heartbeat from FE

thrift

bash
    grep -E "report|thrift|Master" log/cn.INFO | grep -i "fail"

fail to report to Master FE

RPC error

bash
    grep -iE "cache|starlet|block" log/cn.INFO | grep -i "fail"

storage_root_path

bash
    curl http://<CN_IP>:<CN_HTTP_PORT>/api/datacache/stat

bash
    grep "backend report" log/fe.log | grep "<CN_IP>"

mempctused 0

datacachemetric na

cpuused 0%

telnet

pip_scan

pip_con_scan

sql
    -- 커넥터 스캔 스레드 정보 확인
    SELECT * FROM information_schema.be_threads WHERE name LIKE '%pip_con_scan%';

CONNECTOR_SCAN_OPERATOR

ScanTime

IOTaskWaitTime

be.conf

cn.conf

properties
    datacache_enable = false

properties
    disable_storage_page_cache = true

datacache_mem_size = 0

disable_storage_page_cache = true

datacache

bash
    # Example: Clear disk cache manually if needed
    rm -rf <your_storage_path>/datacache/*

datacache_enable = false

show proc '/compute_nodes'

SHOW PROC

sql
-- Compute Node(CN) 또는 Backend(BE)의 상태 확인
SHOW PROC '/compute_nodes';
-- 또는
SHOW PROC '/backends';

DataCacheMetrics

{"l1_cache_hit_ratio": 0.85, "l2_cache_hit_ratio": 0.92, ...}

sql
-- 쿼리 실행 후 프로파일 확인
SET pipeline_profile_level = 1;
-- 쿼리 실행...
-- 그 후 마지막 쿼리의 Profile ID 확인
SHOW LAST QUERY ORDER BY QueryId;
-- 상세 프로파일 확인
GET_QUERY_PROFILE('your_query_id');

SCAN_OPERATOR

:8040/metrics

starrocks_be_data_cache_hit_bytes{level="l1"}

starrocks_be_data_cache_read_bytes{level="l1"}

starrocks_be_data_cache_hit_bytes{level="l2"}

starrocks_be_data_cache_read_bytes{level="l2"}

QueryTimeout

query_timeout

query_timeout

sql
    -- 자신이 속한 리소스 그룹의 설정을 확인 (ADMIN 권한 필요)
    SHOW RESOURCE GROUPS;

max_query_timeout

fe.conf

max_query_timeout

SHOW RUNNING QUERIES

QueryTimeout

QueryTimeout

PendingTimeout

SHOW RESOURCE GROUPS;

QUERY_TIMEOUT

INSERT

UPDATE

DELETE

query_timeout

SELECT

insert_timeout

INSERT INTO SELECT

UPDATE

DELETE

CTAS(Create Table As Select)

INSERT INTO ... SELECT

query_queue_pending_timeout_second

query_timeout

6000초

1200초

State

StartTime

big_query_scan_rows_limit

sql
ALTER RESOURCE GROUP your_group_name WITH (
    'big_query_scan_rows_limit' = '10000000', -- 1,000만 건 이상 스캔 시 차단
    'big_query_cpu_second_limit' = '100',      -- CPU 시간 100초 초과 시 차단
    'big_query_mem_limit' = '2147483648'      -- 2GB 이상 메모리 사용 시 차단
);

EXPLAIN

PLAN FRAGMENT

EXPLAIN

PLAN FRAGMENT 0

PLAN FRAGMENT 1

FragmentInstances

SCAN

cardinality

OlapScanNode

ExternalScanNode

cardinality

EXCHANGE

EXCHANGE

Estimates

Estimates

cpu

memory

network

parallel_fragment_exec_instance_num

query_queue_concurrency_limit

ANALYZE

ANALYZE TABLE

ANALYZE TABLE ...

SHOW ANALYZE STATUS

ADMIN SET CONFIG ("connector_table_query_trigger_analyze_max_pending_task_num" = "200");

ANALYZE TABLE

query_mem_limit

Memory Exceed Limit

query_mem_limit

query_queue_mem_used_pct_limit

PENDING

concurrency_limit

mem_limit

Memory Exceed Limit

sql
    -- 현재 세션에만 적용
    SET query_mem_limit = 10737418240; -- 10GB (Byte 단위)

    -- 전역 기본값으로 설정 (이후 접속하는 모든 세션에 적용)
    SET GLOBAL query_mem_limit = 10737418240;

query_mem_limit

mem_limit

Memory Exceed Limit

query_mem_limit

query_mem_limit