IL-0381 Linode · 2022-10-10database
Newark 의 Linode Object Storage 가 두 번 느려지고 일부 요청이 504 gateway timeout 으로 실패했다
10월 10일부터 16일까지 한 주 동안 Newark 의 Linode Object Storage 에서 성능과 가용성이 떨어지는 장애가 두 번 났다. 10월 16일 장애는 10월 10일 장애를 조사하는 중에 일어났고 두 장애는 서로 이어져 있었다. 조사해 보니 백엔드 Object Storage 노드 하나에 하드웨어 문제가 있었다. 완전한 고장이 아니어서 백엔드 인프라가 올라왔다 내려가기를 반복했고, 이 불안정 때문에 클러스터에서 복구 작업이 지나치게 많이 일어났다. 그래서 성능이 떨어졌고, 일부 경우에는 프런트엔드 게이트웨이가 고객에게 504 gateway timeout 으로 응답했다.
10월 16일 10:31 UTC 에 그 백엔드 Object Storage 인프라의 하드웨어가 완전히 고장 났고, Linode 는 그것을 클러스터에서 뺐다. 빼고 나자 클러스터가 회복했고, 클라이언트 IO 의 병목이 풀렸고, 프런트엔드 게이트웨이가 안정되어 다시 정상으로 요청을 처리했다.
- 심각도
- –
- 영향 범위
- Linode Object Storage in Newark: reduced performance and availability, with 504 gateway timeouts in some cases
- 영향 사용자
- –
- 지역
- Newark
- 감지까지
- –
- 복구까지
- –
증상
10월 10일부터 16일까지 한 주 동안 Newark 의 Linode Object Storage 에서 성능과 가용성이 떨어지는 장애가 두 번 났다. 일부 경우에는 프런트엔드 게이트웨이가 고객에게 504 gateway timeout 으로 응답했다.
10월 16일의 두 번째 장애는 10월 10일 장애를 아직 조사하는 중에 일어났고, 두 장애는 서로 이어져 있었다.
백엔드 Object Storage 노드 하나의 하드웨어 문제가 서비스 전체의 문제로 번졌다. 하드웨어가 완전히 고장 나지 않아서 백엔드 인프라가 올라왔다 내려가기를 반복했고, 그 때문에 클러스터에서 복구 작업이 지나치게 많이 일어났다.
원인
- 촉발
- 백엔드 Object Storage 노드 하나에 하드웨어 문제가 생겼다. 완전한 고장이 아니어서 그 백엔드 인프라가 올라왔다 내려가기를 반복했다.
감지
–
조치
- 10월 16일 10:31 UTC 에 완전히 고장 난 백엔드 Object Storage 인프라를 클러스터에서 뺐다. 그 뒤 클러스터가 회복하고 프런트엔드 게이트웨이가 정상으로 요청을 처리했다.
후속 조치
- 고장 나고 있거나 이상하게 동작하는 하드웨어의 미묘한 문제를 클러스터 전체에 번지기 전에 빨리 찾아 분류하도록 탐지 방법을 개선한다.
- Ceph 관련 이벤트를 당직 관리자에게 더 정확히 설명하도록 모니터링을 바꿨다. 관리자가 문제를 더 빨리 좁힐 수 있게 알림도 더 분명히 정의했다.
교훈
Linode 는 이 장애로 내부 모니터링 시스템의 빈틈이 드러났다고 적었다. 완전히 고장 나지 않고 이상하게 동작하는 하드웨어의 미묘한 문제는 클러스터 전체에 번지기 전에 찾아내야 한다고 봤다.
출처
- https://status.linode.com/incidents/5wgmd45h7h1j · official-status · 보관본
관련 사례
내 클러스터에도 있는지 확인하기
AI 도구와 스크립트용
- 이 사례의 JSON: https://incidentlib-api.benchlet.com/cases/IL-0381
- 가장 비슷한 사례들: https://incidentlib-api.benchlet.com/cases/IL-0381/similar
- MCP 서버(Streamable HTTP, 키 없음):
https://incidentlib-mcp.benchlet.com/mcp
API 는 키가 필요 없습니다. MCP 서버는 search_incidents, get_incident, list_incidents, get_topic, vocab 도구를 내놓습니다. 사용법은 API 와 MCP.