API 응답 속도 (서버 점검, DB 최적화, 캐싱 전략)
API 응답 속도 저하는 사용자 경험을 직접적으로 악화시키는 핵심 문제 중 하나입니다. 응답 시간이 길어지면 사용자는 서비스가 느리다고 인식하게 되며, 이는 이탈률 증가와 서비스 신뢰도 하락으로 이어질 수 있습니다. API 응답이 느려졌을 때, 그냥 서버를 재시작하면 해결될 거라고 생각합니다. 그러나 재시작 후 10분도 안 돼서 똑같이 느려졌고, 원인을 찾는 데 반나절이 걸렸습니다. API 응답 속도 문제는 하나의 원인이 아니라 서버, DB, 네트워크가 뒤엉켜서 발생하는 경우가 대부분입니다. 이 글은 그 삽질을 줄이기 위한 점검 순서를 정리한 것입니다. 서버 점검, 어디서부터 봐야 할까요 API가 느려졌다는 신고를 받으면 가장 먼저 뭘 확인하시나요? 초반에 무조건 로그부터 뒤졌는데, 사실 그보다 먼저 봐야 할 게 있습니다. 바로 서버의 CPU 사용률과 메모리 점유율입니다. CPU 사용률이 80% 이상을 지속적으로 유지하고 있다면, 요청 하나하나를 처리하는 데 이미 자원이 부족한 상태입니다. 메모리도 마찬가지입니다. 가용 메모리가 거의 없으면 운영체제가 디스크 스왑(swap, 부족한 메모리를 디스크로 대신 사용하는 방식)을 시작하는데, 이 순간부터 응답 속도는 눈에 띄게 떨어집니다. 스왑이 발생하는 서버에서는 평균 응답 시간이 평소의 3배 이상 늘어났습니다. 그 다음은 스레드 풀(Thread Pool) 상태입니다. 스레드 풀이란 서버가 동시에 처리할 수 있는 요청 작업자의 수를 미리 정해둔 것인데, 들어오는 요청 수가 이 한도를 넘으면 나머지 요청은 줄을 서서 기다리게 됩니다. 이 대기 시간이 응답 지연으로 직결됩니다. 이런 구조에서는 스레드 수를 늘리거나, 비동기 처리 방식으로 전환하는 것이 현실적인 해결책입니다. 애플리케이션 내부 로직도 빠뜨리면 안 됩니다. 특히 반복문 안에서 외부 API를 호출하거나 DB 쿼리를 실행하는 구조가 있다면, 요청 1건에 수십 번의 외부 호출이 발생할 수 있습니다. 이건 코드 리뷰에서도 쉽게 놓치는 부분이라 따로 ...