사례1건

1건 중 1~1번째

1. IL-0345 Render Oregon 리전의 많은 서비스가 4시간 동안 503 오류를 평소보다 많이 냈다

   Render2020

   증상

   2020년 12월 6일 13:34 PST 부터 Render 의 Oregon 리전에서 많은 서비스가 높은 비율로 503 Service Unavailable 응답을 냈다. 모니터링 시스템이 바로 문제를 알렸다.

   오류율 상승

   촉발

   13:34 PST 에 Oregon 리전에 올라간 고객 API 하나가 들어온 요청을 붙잡고 있다가 타임아웃 오류로 끝내기 시작했다. 이 서비스는 Oregon 리전에서 요청을 가장 많이 받는 축에 들었다.

   원인

   소프트웨어 결함

   구성 요소

   클라우드 로드 밸런서

   기여 요인

   과도한 영향 범위자동 테스트 공백

   감지

   13:34 PST 에 장애가 시작되자 모니터링 시스템이 바로 Render 팀에 알렸다.

   조치

   • 이번 같은 장애를 막는 수정을 모든 로드 밸런서에 내보냈다.

   후속 조치

   • Render 의 라우팅 계층과 로드 밸런싱 계층에서 서비스끼리 더 격리하는 장치를 만든다.
   • 로드 밸런싱 코드의 테스트 범위를 넓힌다.
   • 예상하지 못한 일이 생겨도 플랫폼이 버티도록, CI 테스트 스위트에 가상의 장애 상태를 더 넣는다.
   • 카오스 엔지니어링에 다시 힘을 쏟는다.

   사례 보기

원인별1