클라이언트 또는 서비스가 보내는 트래픽의 처리율(rate)을 제어하기 위한 장치.

• 특정 기간 내에 전송되는 클라이언트의 요청 횟수 제한.
• 임계치(threshold)를 넘어서면 추가로 도달한 모든 호출은 처리가 block됨.

사용자는 초당 2회 이상 새 글을 올릴 수 없다. 같은 IP 주소로는 하루에 10개 이상의 계정을 생성할 수 없다. 같은 디바이스로는 주당 5회 이상 reward를 요청할 수 없다.

API에 처리율 제한 장치를 두면 좋은 점

• DoS(Denial of Service) 공격에 의한 자원 고갈 방지
• 비용 절감 - 서드 파티 api 호출 횟수에 따른 과금
• 서버 과부하
  • Bot에서 오는 트래픽
  • 사용자의 잘못된 이용 패턴으로 유발된 트래픽 걸러내기

문제 이해 및 설계 범위 확정

• 어떤 종류의 처리율 제한 장치를 설계해야 하는가? (클라이언트/서버)
• 어떤 기준을 사용해서 API 호출을 제어해야 하는가? (IP주소, 사용자 ID 등)
• 시스템 규모는 어느정도인가?
• 분산 환경에서 동작하는 시스템인가?
• 독립된 서비스인가? 아니면 애플리케이션 코드에 포함될 수도 있는가?
• 사용자의 요청이 장치에 의해 걸러진 경우 사용자에게 알려야 하는가?

요구사항 정리

• 설정된 처리율을 초과하는 요청은 정확하게 제한한다.