꼭 CPU를 지표로 스케일링해야 할까?

NetFunnel

STCLAB의 유튜브를 보고 학습한 내용을 정리한 글 Autoscaling에 CPU지표만 중요한 것이 아닌 다양한 관점으로 트래픽을 예상할 수 있음이 인상깊었다. 예를들면 롤드컵이 발생할 것을 미리 대비를 해서 서버를 증설하는 작업을 예시로 들 수 있다.

시스템 성능 관리

대응 시나리오

전산자원 임계치를 세분화하여 대응 정상 → 주의 → 경계 → 심각고객수요를 예측하고 시스템 처리능력을 검증하여 사고를 사전에 대비한다.

항상 많은 인스턴스를 유지하는 것이 좋지만..

image

많은 인스턴스를 물론 확보하면은 좋다. 여유가 된다면 인스턴스 확보가 많겠지만 회사내 재정상을 고려하지 않을 순 없는거고 여유가 없다면 성능과 비용적인 측면의 중간값을 찾아야 한다.

금융 IT 가이드 라인 준수와 인프라 관리와 팀 효율화

문제제기

지금의 오토스케일링은 CPU, 메모리, 이런 설정들을 하게 되는데 CPU 임계치라는게 비즈니스 지표를 가르키지는 않는다. 그래서 아래의 지표들을 따르게 된다. CPU 시스템 지표도 물론 중요하지만 그보다 더 다양한 지표의 기반으로 오토스케일링을 할 수 있다.

다양한 지표 기반의 오토스케일링 조절(고객수요 연동)

인스턴스 지표(SystemMetrics) cpu,memory와 같은 기본적인 지표, 그리고 RDM지표 고객들이 10명 100명 1000명 사전에 모니터링 지표를 가지고 있다면 오토스케일링을 하여 더 효과적으로 대응할 수 있다. 카프카에 큐가 엄청 많이 쌓인다거나 그런것도 중요한 지표가 될 수 있다. 데이터베이스가 굉장히 바쁜지에 따라서 오토스케일링을 할필요가 있다.

Reference

https://www.stclab.com/netfunnel?gad_source=1&gclid=Cj0KCQjw5ea1BhC6ARIsAEOG5pyd-lHEkpmqh_kO4QZiYQxYRZiClWkhvDxVerKJHHuhq3DFx0LpP44aAlmlEALw_wcB

https://www.youtube.com/watch?v=N_XuMXJTjh4&t=333s



© 2022. by taewoo

Powered by taewoo