IL-0550 Atlassian · 2024-02-22database
Bitbucket Cloud 의 웹사이트와 API 가 6시간 동안 느려지고 Pipelines 빌드가 밀렸다
2024년 2월 22일 07:22 UTC 부터 13:30 UTC 까지 Bitbucket Cloud 의 웹사이트와 API 가 느려졌다. 트래픽이 많은 데이터베이스 테이블에서 vacuum 이 충분히 자주 돌지 않아 데이터베이스가 요청을 제대로 처리하지 못했다. Atlassian 은 자주 쓰이는 테이블에 정기적으로 도는 autovacuum 중에 생긴 문제를 근본 원인으로 적었다. 그 결과 커넥션 풀이 포화되고 응답 시간이 늘었으며 완전히 타임아웃 나는 요청이 점점 늘었다. 느려짐은 여러 Bitbucket 서비스에 번졌고, 아직 스케줄되지 못한 파이프라인이 큰 백로그로 쌓였다.
13:30 UTC 에 데이터베이스가 회복된 뒤 Bitbucket Pipelines 는 쌓인 잡을 처리하느라 빌드 스케줄링이 지연됐다. Bitbucket Pipelines 에 리소스를 더 넣었고 17:30 UTC 에 백로그가 모두 처리됐다. 장애 동안 HTTPS 와 SSH 로 하는 Git 요청은 영향이 없었다.
- 심각도
- –
- 영향 범위
- Increased latency on the bitbucket.org website and APIs and significant delays running Bitbucket Pipelines; Git over HTTPS and SSH unaffected
- 영향 사용자
- Bitbucket Cloud customers
- 지역
- –
- 감지까지
- –
- 복구까지
- 10h 8m
증상
2024년 2월 22일 07:22 UTC 부터 Bitbucket Cloud 의 웹사이트와 API 가 느려졌다. 커넥션 풀이 포화되고 응답 시간이 늘었으며, 완전히 타임아웃 나는 요청이 점점 늘었다.
Bitbucket Pipelines 실행이 크게 지연됐고 bitbucket.org 웹사이트와 API 의 지연 시간이 늘었다. HTTPS 와 SSH 로 하는 Git 요청은 영향이 없었다. 상태 페이지는 영향을 받은 구성 요소로 Webhooks 와 Pipelines 를 적었다.
13:30 UTC 에 데이터베이스가 회복된 뒤에도 Bitbucket Pipelines 는 쌓인 잡을 처리하느라 빌드 스케줄링이 지연됐다. 상태 페이지에는 14:45 UTC 에 일부 고객의 Bitbucket Pipelines 가 시작되지 않는 문제를 조사한다는 글이 올라왔다. 15:20 UTC 에 수정을 적용했다고 알린 뒤에도 15:55 UTC 에 Pipelines 가 대기열에 머물거나 지연된다는 신고가 계속 들어왔다.
원인
원인 용량 한계
- 촉발
- –
감지
–
조치
- Bitbucket Pipelines 에 리소스를 더 넣어 쌓인 잡을 처리했고, 17:30 UTC 에 백로그가 모두 처리됐다.
후속 조치
- 쓰기가 많은 데이터베이스 테이블의 vacuum 임계값을 다시 설정한다.
- 이런 동작을 더 일찍 잡아 영향을 줄이도록 알림 임계값을 조정한다.
- Pipelines 서비스의 오토스케일링과 로드 셰딩 동작을 조정하고 빌드 러너 용량을 늘린다.
교훈
–
출처
- https://bitbucket.status.atlassian.com/incidents/0t3fy4dr6sdn · official-status · 보관본
관련 사례
같은 원인 · 공통 데이터베이스, PostgreSQL vacuum
같은 원인 · 공통 데이터베이스, PostgreSQL vacuum
IL-0211Mandrill 의 PostgreSQL 샤드 하나가 트랜잭션 ID 랩어라운드를 막으려고 쓰기를 멈춰 약 40시간 동안 메일 발송이 줄었다Mailchimp · 2019같은 원인 · 공통 데이터베이스, PostgreSQL vacuum
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
IL-0288CDN77 의 ClickHouse 데이터 파이프라인에서 이중화된 인스턴스 세 곳의 ZooKeeperWait 가 수천 초로 치솟아 복제가 한 시간 넘게 느려졌다CDN77 · 2026같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
IL-0305Intercom 의 PlanetScale 샤드 하나에서 복제본이 CPU 100% 로 주 데이터베이스를 따라가지 못해 받은편지함에 최대 2.2시간 전의 데이터가 보였다Intercom · 2026같은 원인 · 공통 데이터베이스
IL-0390PostHog US Cloud 의 Persons Postgres 데이터베이스 쓰기가 크게 느려져 이벤트와 persons 수집이 최대 2일 지연됐다PostHog · 2025같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
IL-0287Atlas 와 Cloud Manager 의 모니터링을 받치는 내부 데이터베이스 클러스터의 샤드 하나가 과부하되어 지표 수집과 클러스터 작업이 늦어졌다MongoDB · 2025같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
IL-0298Wikimedia sessionstore 의 Cassandra 노드가 디스크가 가득 차 잇따라 죽고 쿼럼을 잃어 편집이 실패했다Wikimedia Foundation · 2025같은 원인 · 공통 데이터베이스
IL-0312max_connections 를 올리려고 재시작한 주 PostgreSQL 데이터베이스가 다시 올라오지 않아 Gadget 의 모든 앱 요청이 멈췄다Gadget · 2024같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
IL-0110Grafana Agent 파드가 메모리를 많이 쓰던 노드에 Hangfire 파드가 함께 올라가 시스템 OOM 으로 CrashLoopBackOff 를 반복했고, 노드가 응답을 멈추고 NotReady 가 됐다.DFDS · 2024같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
IL-0202갑자기 몰린 쿼리와 데이터베이스 쓰기로 Honeycomb 수집 호스트가 메모리 부족으로 죽었고, 쿠버네티스 CrashLoopBackOff 가 용량 회복을 막아 US1 이벤트 수집이 한 시간 넘게 불안정했다Honeycomb · 2023 · sev1같은 원인 · 공통 데이터베이스
IL-0386Google Cloud 로 옮긴 뒤 GKE 노드에서 Postgres 연결 타임아웃과 memcached i/o timeout 이 간헐적으로 튀었다incident.io · 2023같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
IL-0206GKE 파드 안의 Consul 에이전트가 메모리 급증으로 거듭 OOM kill 되어 Rails 파드가 데이터베이스 복제본을 찾지 못했고, 모든 쿼리가 primary 로 몰려 GitLab.com 이 느려졌다.GitLab · 2022같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
IL-0496전역 복제 Cassandra 클러스터에서 모든 리전의 인스턴스 CPU 가 100% 로 치솟아 쿼리가 타임아웃됐고, 같은 부하가 이틀 저녁 더 찾아왔다Ably · 2020같은 원인 · 공통 데이터베이스
IL-0443Aurora MySQL reader 가 이유 없이 재시작한 뒤 writer 의 insert latency 가 7배쯤 오르고 replication lag 가 하루 넘게 이어졌다Repro · 2019같은 원인 · 공통 데이터베이스
IL-0037imagePullPolicy가 Always인 DaemonSet이 크래시 루프를 돌며 이미지를 계속 받아, NAT 세 대를 같이 쓰던 리전 전체가 이미지 레지스트리에서 429로 막혔다Datadog · 2019같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
IL-0064CPU 를 많이 쓰는 파드가 Google Cloud 노드 하나에 몰려 노드가 커널 패닉으로 죽었고, 다시 배치된 파드가 다음 노드를 또 죽이며 웹사이트와 API 가 멈췄다.Moonlight · 2019같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
IL-0334RDS MySQL 의 bookmarks 테이블이 2TB 파일 크기 한도에 닿아 INSERT 가 실패하고 Instapaper 가 31시간 동안 멈췄다Instapaper · 2017같은 원인 · 공통 데이터베이스
IL-0333사양을 낮춘 RDS PostgreSQL 인스턴스가 피크 부하를 못 버텨 헬스 체크가 실패하고 Buildkite 대시보드가 몇 시간 동안 내려갔다Buildkite · 2016같은 원인 · 공통 데이터베이스
IL-0282US-East 리전의 DynamoDB 스토리지 서버들이 멤버십 정보를 받지 못해 스스로 요청 처리에서 빠지면서 고객 요청의 약 55% 가 실패했다Amazon Web Services · 2015같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
내 클러스터에도 있는지 확인하기
AI 도구와 스크립트용
- 이 사례의 JSON: https://incidentlib-api.benchlet.com/cases/IL-0550
- 가장 비슷한 사례들: https://incidentlib-api.benchlet.com/cases/IL-0550/similar
- MCP 서버(Streamable HTTP, 키 없음):
https://incidentlib-mcp.benchlet.com/mcp
API 는 키가 필요 없습니다. MCP 서버는 search_incidents, get_incident, list_incidents, get_topic, vocab 도구를 내놓습니다. 사용법은 API 와 MCP.