IL-0570 CrowdWorks · 2026-09-07 (게시일)database
안 쓰는 테이블을 지우는 마이그레이션 직후 MySQL 쿼리가 막혀 crowdworks.jp에 1분쯤 접속하기 어려웠다
2026년 8월 CrowdWorks의 엔지니어가 더 이상 쓰지 않는 테이블을 지우는 drop_table 마이그레이션을 배포했다. 지울 테이블에는 트래픽이 매우 많은 테이블을 가리키는 외래 키가 걸려 있었다. MySQL은 외래 키 정합성을 지키려고 자식 테이블을 지울 때도 부모 테이블의 배타적 메타데이터 락, 곧 MDL을 요구한다. 마이그레이션이 이 배타적 MDL을 얻으려고 기다리는 동안 부모 테이블로 가는 쿼리가 그 뒤에 쌓인 것이 직접적인 원인으로 보인다. 서비스의 lock_wait_timeout 기본값은 50초였고, 마이그레이션이 타임아웃으로 실패하면서 1분쯤 뒤 서비스는 저절로 복구됐다. 팀은 재발 방지책으로 대상 마이그레이션에 세션 단위로 lock_wait_timeout = 3 을 설정해 3초 안에 락을 얻지 못하면 실패하게 하기로 했다. 위험한 마이그레이션을 찾는 strong_migrations gem이나 모든 마이그레이션에 타임아웃 단축을 강제하는 몽키 패치도 검토했지만, 이런 DDL이 드물어 의존성과 유지보수 부담을 늘릴 만하지 않다고 보고 미뤘다. 대신 규칙을 문서로 정하고 AI 코딩 에이전트 지시 파일과 PR 자동 코멘트로 알리는 방식을 택했다. 팀은 이 결정을 Architecture Decision Record, 곧 ADR로 정리해 합의했다.
- 심각도
- –
- 영향 범위
- crowdworks.jp was hard to reach for about a minute
- 영향 사용자
- –
- 지역
- –
- 감지까지
- –
- 복구까지
- 1m
증상
drop_table 마이그레이션을 실행한 직후부터 데이터베이스 쿼리가 막히기 시작했고, crowdworks.jp에는 1분쯤 접속이 잘 되지 않았다. 마이그레이션은 끝내 타임아웃으로 실패했고 서비스는 저절로 복구됐다.
원인
원인 배포 결함
- 촉발
- 이미 쓰지 않는 테이블을 지우려고 drop_table 마이그레이션을 실행했다. 이 테이블에는 트래픽이 매우 많은 테이블을 가리키는 외래 키 제약이 걸려 있었다.
감지
–
조치
–
후속 조치
- 대상 마이그레이션은 execute 'SET SESSION lock_wait_timeout = 3' 으로 MDL 대기 상한을 줄여, 대기가 길어지기 전에 실패하게 한다. 3초는 운영하면서 조정할 임시 값이다.
- execute는 change에서 되돌릴 수 없어 롤백 때 ActiveRecord::IrreversibleMigration 이 나므로, def change 대신 def up 과 def down 으로 쓴다. 롤백 쪽 DDL도 같은 MDL을 잡으므로 up과 down 모두 대상 DDL 앞에 설정을 둔다.
- 중간에 실패해 일부만 적용되는 일을 피하려고 마이그레이션 하나에 대상 DDL은 하나만 둔다.
- 실패할 때 다른 마이그레이션까지 휩쓸리지 않도록 대상 DDL을 담은 마이그레이션은 따로 릴리스한다.
- 대상 마이그레이션은 트래픽이 적은 시간대에 실행한다.
- 대상 조건과 대응 방법의 자세한 내용은 db/migrate/README.md 에 둔다.
- AGENTS.md 의 참조 표에 db/migrate/ → db/migrate/README.md 한 줄을 더해 Copilot과 AI 에이전트가 리뷰할 때 이 규칙을 보게 한다.
- db/migrate/** 를 바꾼 PR에 자동으로 달리는 기존 코멘트의 체크리스트에 이번 확인 항목을 더한다.
교훈
–
출처
관련 사례
같은 원인 · 공통 데이터베이스, 스키마 마이그레이션
같은 원인 · 공통 데이터베이스, 스키마 마이그레이션
IL-0523TANF-app 의 운영 배포가 PostgreSQL 마이그레이션 실패로 두 달 동안 막힘U.S. Department of Health and Human Services · 2023같은 원인 · 공통 데이터베이스, 스키마 마이그레이션
IL-0524인덱스를 다시 만드는 마이그레이션이 운영에서 Transactions 테이블을 잠가 Open Collective 서비스가 느려짐Open Collective · 2023같은 원인 · 공통 데이터베이스, 스키마 마이그레이션
같은 원인 · 공통 데이터베이스, 스키마 마이그레이션
같은 원인 · 공통 데이터베이스
IL-0136Sweden Central 리전에서 내부 서비스 배포가 캐시를 비워 메타데이터 백엔드에 평소 20배의 트래픽이 몰렸고, 데이터베이스 연결에 기대는 헬스 체크가 인스턴스를 계속 재시작시켜 Azure OpenAI 요청이 6시간 가까이 실패했다Microsoft Azure · 2026같은 원인 · 공통 데이터베이스
IL-0510MIT Learn 운영 RDS PostgreSQL 의 저장 공간이 임시 파일로 가득 차 learn.mit.edu 가 세 시간 동안 503 과 504 를 냈다MIT Open Learning · 2026같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
IL-0547Buildkite 의 Agent API, REST API, GraphQL 이 annotations 테이블 쿼리 타임아웃으로 4시간 가까이 저하됐다Buildkite · 2025같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
IL-0324External Storage 데이터베이스 클러스터에 과부하가 걸려 mw-api-int, mw-parsoid, mw-jobrunner 의 지연과 데이터베이스 오류가 늘었다Wikimedia Foundation · 2025같은 원인 · 공통 데이터베이스
IL-0307Supabase us-east-1 에서 Supavisor 2.0 업그레이드 뒤 Postgres 연결 풀러가 테넌트 약 80% 의 연결을 끊었다Supabase · 2025같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
IL-0567쿠키런: 오븐브레이크의 패키지 매출 랭킹 기능을 배포한 뒤 Aurora MySQL CPU가 100%에 이르러 유저가 게임에 접속하지 못했다Devsisters · 2023같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
같은 원인 · 공통 데이터베이스
내 클러스터에도 있는지 확인하기
AI 도구와 스크립트용
- 이 사례의 JSON: https://incidentlib-api.benchlet.com/cases/IL-0570
- 가장 비슷한 사례들: https://incidentlib-api.benchlet.com/cases/IL-0570/similar
- MCP 서버(Streamable HTTP, 키 없음):
https://incidentlib-mcp.benchlet.com/mcp
API 는 키가 필요 없습니다. MCP 서버는 search_incidents, get_incident, list_incidents, get_topic, vocab 도구를 내놓습니다. 사용법은 API 와 MCP.