구글 클라우드 API 사용량 실시간 모니터링 방법 - 누적 토큰 사용량까지 확인하기
구글 클라우드(GCP)에서 Vertex AI 같은 API를 쓰다 보면 "내가 지금까지 얼마나 호출했지?"라는 질문이 반드시 생긴다. 특히 무료 크레딧으로 AI 모델을 호출하는 중이라면 사용량이 한도에 얼마나 가까워졌는지 실시간으로 확인하는 일이 중요하다. 이 글에서는 GCP 콘솔에서 API 사용량을 실시간으로 확인하는 세 가지 경로와, 많은 사람이 헤매는 누적 토큰 사용량이 안 보이는 문제의 해결 방법을 한국어 메뉴명 기준으로 정리한다.
API 사용량을 확인하는 세 가지 경로
GCP에서 API 사용량을 보는 화면은 하나가 아니다. 목적에 따라 세 곳을 구분해서 쓰면 된다.
1. API 및 서비스 → 대시보드 (가장 직관적)
Cloud Console에서 API 및 서비스 → 대시보드(또는 사용 설정된 API 및 서비스)로 이동하면 활성화된 API 목록과 함께 트래픽, 오류, 지연 시간 그래프가 나온다. 특정 API(예: Vertex AI API)를 클릭하면 측정항목 탭에서 메서드별 호출 수, 오류율, 지연 시간을 1시간부터 30일 단위까지 확인할 수 있다. 데이터는 약 1~3분 지연되어 반영된다.
2. 모니터링 → 측정항목 탐색기 (가장 상세)
모니터링 → 측정항목 탐색기(Metrics Explorer)에서는 원하는 메트릭을 직접 골라 쿼리할 수 있다. Vertex AI라면 다음 항목이 유용하다.
aiplatform.googleapis.com/prediction/online/prediction_count- 예측 요청 수aiplatform.googleapis.com/prediction/online/error_count- 오류 수aiplatform.googleapis.com/publisher/online_serving/token_count- 토큰 수
모델별·리전별로 필터링한 차트를 만들어 대시보드에 저장하면 실시간 모니터링 패널처럼 계속 띄워둘 수 있다.
3. IAM 및 관리자 → 할당량 및 시스템 한도
IAM 및 관리자 → 할당량 및 시스템 한도에서 현재 사용량(%)으로 정렬하면 어떤 API가 한도에 가까운지 한눈에 보인다. 분당 요청 수(QPM), 토큰 한도 같은 항목이 여기에 잡힌다.
| 경로 | 메뉴 위치 | 강점 | 적합한 용도 |
|---|---|---|---|
| API 대시보드 | API 및 서비스 → 대시보드 | 그래프로 즉시 파악 | 트래픽·오류 개요 |
| 측정항목 탐색기 | 모니터링 → 측정항목 탐색기 | 메트릭 직접 쿼리 | 모델별 상세 분석 |
| 할당량 페이지 | IAM 및 관리자 → 할당량 | 한도 대비 % | 한도 초과 예방 |
참고로 비용 자체를 추적하려면 결제 → 보고서를 보면 되는데, 이쪽은 몇 시간에서 24시간까지 지연된다. 무료 크레딧 소진이 걱정된다면 결제 → 예산 및 알림에서 임계치(예: 50%, 90%)를 설정해 이메일 알림을 받아두는 것이 실용적이다. 콘솔이 영어로 보인다면 설정에서 언어를 한국어로 바꾸면 위 메뉴명 그대로 표시된다.
누적 토큰 사용량이 안 보이는 이유
측정항목 탐색기에서 토큰 메트릭을 골랐는데 차트에 /s(초당) 단위의 낮은 값만 나오고 누적 합계가 안 보이는 경우가 많다. 이것은 메트릭을 잘못 고른 것이 아니라, GCP가 기본적으로 정렬자(Aligner)를 비율(rate)로 잡기 때문이다. 토큰 카운트가 델타(delta) 방식 메트릭이라 기본값이 초당 비율로 표시되는 것이다. 아래 4단계로 설정을 바꾸면 누적값이 나온다.
- 쿼리 설정에서 정렬 함수(Aligner)를
rate에서sum으로 변경한다. - 정렬 기간(Alignment period)을 1시간 또는 1일처럼 길게 잡는다. 집계(Reducer)는 합계를 유지한다.
- 기준(Group by)에
model_user_id라벨을 추가하면 어떤 모델이 토큰을 썼는지 모델별로 나뉜다. 입력·출력 비중까지 보려면type라벨을, 리전 구분은location을 함께 추가한다. - 가장 빠른 확인 방법은 차트 위쪽 결과 옆의 테이블 탭이다. 화면에 표시된 기간 전체의 합계가 모델별 숫자로 바로 나온다.
시간 범위는 우측 상단에서 최근 7일, 최근 30일처럼 넉넉하게 잡으면 되고, 전체 기간을 보고 싶으면 맞춤 기간으로 시작일을 지정하면 된다. model_user_id 라벨이 목록에 없으면 base_model이나 model 같은 비슷한 이름을 시도해 보면 된다. 시기에 따라 라벨명이 조금씩 다르다.
PromQL로 모델별 누적 토큰 조회하기
클릭 설정 대신 쿼리로 관리하고 싶다면 측정항목 탐색기 우측 상단의 코드 편집기에서 PromQL 모드로 전환하면 된다. 모델별 누적 토큰은 다음 쿼리로 확인한다.
sum by (model_user_id) (increase(aiplatform_googleapis_com:publisher_online_serving_token_count[7d]))
입력·출력 토큰까지 분리하려면 sum by (model_user_id, type) (...) 형태로 라벨을 추가하면 되고, 기간은 [1h], [24h], [30d]처럼 목적에 맞게 바꾼다. 여기서 주의할 점이 두 가지 있다.
- Grafana에서 쓰는
$__range변수는 GCP Cloud Monitoring PromQL에서 동작하지 않는다. 기간은 반드시[7d]처럼 명시적으로 적어야 한다. - 차트 우측 상단의 시간 범위와 쿼리의 윈도우 기간을 같게 맞춰야 한다. 시간 범위가 1시간인데
[7d]로 쿼리하면 결과가 이상하게 나온다.
메트릭 이름이 인식되지 않으면 PromQL 입력창에 aiplatform_까지만 치고 자동완성 후보를 확인하면 된다. 라벨 역시 sum by (까지 입력하면 사용 가능한 목록이 뜬다. 기간이 길어 데이터 포인트가 많으면 GCP가 자동으로 다운샘플링하므로, 정확한 누적 숫자가 필요할 때는 테이블 뷰가 차트보다 정확하다.
정리
사용량 개요는 API 및 서비스 대시보드, 모델별 상세 분석은 측정항목 탐색기, 한도 관리는 할당량 페이지로 역할을 나누면 GCP API 사용량을 빈틈없이 볼 수 있다. 누적 토큰이 안 보일 때는 정렬 함수를 sum으로 바꾸고 테이블 탭을 확인하는 것이 핵심이며, PromQL을 쓸 때는 명시적 기간 표기를 잊지 말아야 한다. 이렇게 만든 쿼리를 대시보드로 저장하는 방법과 모델별 비용 계산은 다음 글에서 다룬다.
이 시리즈의 다른 글: Vertex AI 모델별 토큰 사용량과 비용 추적 - GCP 맞춤 대시보드와 BigQuery 결제 내보내기
※ 본문의 메뉴 명칭과 메트릭 이름은 2026년 기준이며 변경될 수 있습니다.
댓글
댓글 쓰기