고객 증가보다 가파르게 상승하는 클라우드 비용은 스타트업의 생존을 위협하는 문제입니다. 이 글에서는 토스와 당근마켓의 실제 사례를 통해 마이크로서비스 아키텍처(MSA), 쿠버네티스, AWS 그래비톤 프로세서 도입 등 검증된 기술적 비용 절감 전략을 알아봅니다. 또한, 비용 절감을 조직 문화로 정착시키는 FinOps 접근법과 외부 컨설팅 활용법까지, 2025년을 위한 최신 클라우드 비용 최적화 전략을 구체적으로 제시합니다.
목차
- 고객은 늘어나는데, 클라우드 청구서는 더 가파르게 늘고 있나요?
- 토스(Toss) – 금융 혁신을 뒷받침하는 MSA 아키텍처의 비용 효율성
- 당근마켓 – 하이퍼로컬 트래픽을 감당하는 쿠버네티스 기반 인프라 최적화
- 기술적 접근 – 가장 확실한 비용 절감 카드, AWS Graviton 프로세서
- 문화적 접근 – ‘FinOps’, 비용 절감을 조직 문화로 만드는 법
- 전문가의 도움 – 클라우드 컨설팅, 언제 어떻게 활용해야 할까?
- 결론: 작게 시작하고, 꾸준히 개선하세요
- 자주 묻는 질문 (FAQ)
고객은 늘어나는데, 클라우드 청구서는 더 가파르게 늘고 있나요?
고객의 사랑을 받으며 서비스가 성장하는 것은 모든 스타트업의 꿈입니다. 하지만 기쁨도 잠시, 매달 날아오는 클라우드 비용 청구서를 보며 한숨 쉬는 대표님, 개발자님이 많으실 겁니다. 클라우드 비용 최적화는 더 이상 단순한 지출 줄이기가 아닙니다. 빠르게 성장하는 시장에서 경쟁력을 유지하고, 핵심 인재를 채용하며, 중요한 마케팅에 투자할 실탄을 확보하는 ‘필수 생존 전략’입니다.
이 글에서는 국내 대표 유니콘 기업 토스와 당근마켓의 실제 클라우드 비용 절감 사례를 깊이 파고들어, 단순히 어떤 기술을 썼다는 나열을 넘어 ‘왜 그런 아키텍처를 선택했는지’에 대한 전략적 통찰을 공유합니다. 여러분의 스타트업 기술 스택에 바로 적용해 볼 수 있는, 검증된 아이디어와 구체적인 실행 계획을 얻어 가실 수 있을 겁니다.
토스(Toss) – 금융 혁신을 뒷받침하는 MSA 아키텍처의 비용 효율성
토스는 어떻게 복잡한 금융 규제와 폭발적인 성장 속에서 비용 효율성과 개발 속도라는 두 마리 토끼를 모두 잡을 수 있었을까요? 정답은 바로 ‘마이크로서비스 아키텍처(MSA)’라는 전략적 선택에 있습니다.
전략적 선택, MSA
전통적인 금융 서비스는 대부분 ‘모놀리식(Monolithic)’이라는 거대한 하나의 덩어리로 만들어집니다. 작은 기능 하나를 바꾸려 해도 시스템 전체를 손봐야 해서 시간과 비용이 많이 들죠. 하지만 토스는 처음부터 서비스를 기능별로 잘게 쪼갠 MSA 구조를 도입했습니다. 송금, 결제, 인증 등 각각의 기능이 독립된 작은 서비스처럼 움직이는 것입니다.
이 선택의 가장 큰 장점은 ‘선택과 집중’이 가능하다는 점입니다. 예를 들어, 명절에 송금 트래픽이 몰리면 전체 서비스를 확장하는 대신, 오직 송금 기능에만 서버 자원을 집중적으로 늘려주면 됩니다. 이는 장애가 발생했을 때도 해당 기능만 분리하여 빠르게 대응할 수 있게 해, 서비스 안정성을 높이는 효과도 가져옵니다. 실제로 토스뱅크는 금융의 심장과도 같은 계정계 시스템까지 MSA로 전환하는 혁신을 통해, 각 서비스가 독립적으로 움직여 필요한 부분만 리소스를 증설하는 방식으로 토스 AWS 비용을 최적화하는 기반을 마련했습니다.
비용 절감의 원리: 모놀리식 vs. MSA
| 구분 | 모놀리식 아키텍처 (전통 방식) | 마이크로서비스 아키텍처 (토스 방식) |
|---|---|---|
| 구조 | 모든 기능이 한 덩어리로 묶여 있음 | 기능별로 서비스가 잘게 나뉘어 있음 |
| 확장 방식 | 작은 기능에 트래픽이 몰려도 시스템 전체를 확장해야 함 | 필요한 기능(서비스)만 골라서 독립적으로 확장 가능 |
| 배포 | 작은 수정에도 전체 시스템을 새로 배포해야 함 | 수정한 서비스만 빠르고 간단하게 배포 가능 |
| 비용 효율성 | 트래픽이 적은 기능에도 자원이 할당되어 낭비 발생 | 사용량에 따라 자원을 탄력적으로 운영해 유휴 리소스 최소화 |
이처럼 MSA는 필요한 서비스만 독립적으로 관리함으로써 불필요한 자원 낭비를 원천적으로 차단합니다. 이는 아키텍처 설계 단계부터 비용 효율성을 고민한 대표적인 클라우드 비용 절감 사례입니다.
당근마켓 – 하이퍼로컬 트래픽을 감당하는 쿠버네티스 기반 인프라 최적화
‘우리 동네’를 기반으로 하는 당근마켓 서비스는 예측 불가능한 트래픽 변화가 잦습니다. 특정 동네의 인기 매물이 화제가 되거나, 지역 이벤트가 열리면 순간적으로 트래픽이 급증하는 ‘스파이크(Spike)’ 현상이 발생하죠. 당근마켓 인프라의 핵심 과제는 바로 이 롤러코스터 같은 트래픽을 어떻게 유연하고 비용 효율적으로 감당하느냐였습니다.
해결책, 쿠버네티스
당근마켓은 이 문제의 해결사로 ‘쿠버네티스(Kubernetes)’를 선택했습니다. 쿠버네티스는 수많은 컨테이너(서버 자원을 잘게 쪼갠 단위)들을 똑똑하게 지휘하는 오케스트라 지휘자라고 생각하면 쉽습니다. 당근마켓은 검색 엔진을 포함한 핵심 서비스를 쿠버네티스 환경에서 운영함으로써, 서버 자원을 일일이 손으로 관리하는 대신 자동화하고 표준화하는 데 성공했습니다.
특히, 인프라 구성을 코드로 관리하는 ‘테라폼(Terraform)’을 활용한 점이 돋보입니다. 이를 통해 8개가 넘는 복잡한 검색 클러스터를 마치 복사-붙여넣기 하듯 빠르고 일관되게 만들어내고 확장할 수 있었습니다. 사람이 직접 작업할 때 발생할 수 있는 실수를 줄이고, 인프라를 관리하는 운영 비용을 획기적으로 절감한 것입니다.
비용 절감의 원리: 똑똑한 자동 스케일링
쿠버네티스가 비용을 절감하는 핵심 원리는 바로 ‘오토스케일링(Auto-Scaling)’ 기능입니다.
- 트래픽이 몰릴 때: 사용자가 몰리는 것을 감지해 즉시 컨테이너 수를 자동으로 늘려 서비스가 느려지거나 멈추는 것을 막아줍니다.
- 트래픽이 적을 때: 새벽 시간처럼 사용자가 줄어들면, 늘어났던 컨테이너를 다시 자동으로 줄여 불필요한 서버가 켜져 있는 것을 방지합니다.
이처럼 실시간 수요에 맞춰 꼭 필요한 만큼만 자원을 사용하는 스마트함 덕분에, 갑작스러운 트래픽에도 안정적으로 대응하면서 비용 낭비는 최소화할 수 있습니다. 이는 많은 스타트업 기술 스택이 왜 쿠버네티스를 필수 요소로 채택하는지 보여주는 명확한 이유이며, AWS에서도 직접 우수 고객으로 소개할 만큼 성공적인 클라우드 비용 절감 사례로 평가받고 있습니다.
기술적 접근 – 가장 확실한 비용 절감 카드, AWS Graviton 프로세서
앞서 살펴본 아키텍처 개선이 장기적인 체질 개선이라면, 지금 당장 적용해 볼 수 있는 확실한 비용 절감 기술도 있습니다. 바로 AWS가 직접 설계한 ‘그래비톤(Graviton)’ 프로세서로 서버를 교체하는 것입니다.
게임 체인저, Graviton
우리가 흔히 쓰는 컴퓨터나 서버에는 인텔(x86) 기반의 CPU가 주로 사용됩니다. 하지만 AWS 그래비톤은 스마트폰에 많이 쓰이는 ARM 아키텍처를 기반으로 만들어져, 전력 효율이 매우 뛰어납니다. 쉽게 말해, 동일한 성능을 내면서도 전기료가 덜 나오고, 서버 자체의 가격도 더 저렴합니다. 기존 서버에서 그래비톤 기반 서버로 바꾸는 것만으로도 상당한 비용 절감 효과를 즉시 볼 수 있습니다.
국내외 수많은 기업이 이 강력한 비용 절감 카드를 놓치지 않고 있습니다.
- SK텔레콤의 지원 사격: SKT는 자체 개발한 전환 솔루션을 통해 스타트업들이 기존 서비스를 그래비톤 기반으로 쉽게 옮겨갈 수 있도록 돕고 있습니다. 이를 통해 클라우드 비용을 최대 40%까지 절감할 수 있는 길을 열어주고 있습니다. 운영 비용에 민감한 국내 스타트업에게는 매우 희소식입니다.
- 글로벌 유니콘의 선택, 센드버드: 한국의 12번째 유니콘 기업이자 글로벌 채팅 솔루션 강자인 ‘센드버드(Sendbird)’는 서비스 초기부터 AWS 그래비톤을 과감하게 도입했습니다. 그 결과 예상보다 훨씬 큰 비용 절감 효과를 확인하고 즉시 실전 서비스에 배치했습니다. 이는 최신 스타트업 기술 스택을 남들보다 한발 앞서 검토하고 도입하는 것이 얼마나 중요한지 보여주는 대표적인 클라우드 비용 절감 사례입니다.
문화적 접근 – ‘FinOps’, 비용 절감을 조직 문화로 만드는 법
아무리 좋은 기술을 도입해도 사용하는 사람이 비용에 대한 인식이 없다면 밑 빠진 독에 물 붓기가 될 수 있습니다. 지속 가능한 비용 최적화를 위해서는 기술 도입을 넘어, 전 직원이 비용 효율을 고민하는 ‘FinOps(핀옵스)’ 문화를 만드는 것이 중요합니다.
FinOps란?
FinOps는 금융(Finance)과 개발/운영(DevOps)의 합성어입니다. 중앙 재무팀이 모든 비용을 통제하는 대신, 클라우드 자원을 실제로 사용하는 개발팀이 직접 비용에 대한 주인의식을 갖고 비즈니스 가치를 높이는 방향으로 지출을 관리하는 문화적 프레임워크를 의미합니다. FinOps를 성공적으로 도입한 기업들은 평균적으로 클라우드 비용을 20~30% 절감하는 효과를 보고 있습니다.
우리 회사에 적용하기 (3단계)
클라우드 컨설팅 후기를 살펴보면, 성공적인 비용 절감은 일회성 이벤트가 아닌 꾸준한 문화 정착에서 비롯된다는 공통점을 발견할 수 있습니다. 우리 회사에 FinOps 문화를 적용하는 3단계 로드맵은 다음과 같습니다.
- 1단계 (Inform – 투명하게 보기): 모든 시작은 ‘가시성 확보’입니다. AWS Cost Explorer 같은 도구를 활용해 ‘어떤 팀이, 어떤 서비스에, 얼마를’ 쓰고 있는지 모든 팀원이 쉽게 볼 수 있도록 투명하게 공개해야 합니다. 비용이 안개 속에 가려져 있으면 아무도 개선할 수 없습니다.
- 2단계 (Optimize – 함께 줄이기): 데이터가 투명하게 보이기 시작했다면, 팀별로 합리적인 비용 절감 목표를 설정하고 함께 실천에 나섭니다. 사용하지 않는 테스트 서버 삭제, 서버 사양을 최적화하는 Right-Sizing, 그래비톤 프로세서로의 전환 같은 구체적인 활동을 장려하고 성과를 공유합니다.
- 3단계 (Operate – 습관으로 만들기): 비용 최적화를 분기별 숙제처럼 여기는 것이 아니라, 매일의 업무처럼 자연스럽게 만드는 단계입니다. ‘우아한형제들’은 아예 아키텍처를 설계할 때부터 비용을 고려하는 ‘비용 인지 아키텍처’ 개념을 도입하고, 이를 조직 전체에 확산시키며
FinOps를 성공적으로 운영하고 있습니다.
전문가의 도움 – 클라우드 컨설팅, 언제 어떻게 활용해야 할까?
내부적으로 최선을 다했지만 비용 절감에 한계를 느끼거나, 더 전문적인 진단이 필요하다고 느껴질 때가 있습니다. 이럴 때는 외부 전문가의 도움, 즉 클라우드 컨설팅을 고려해 볼 수 있습니다.
컨설팅이 필요한 순간
- 자체적으로 비용 데이터를 분석해도 더 이상 줄일 곳이 보이지 않을 때
- 개발팀이 인프라 관리 같은 비핵심 업무에서 벗어나 제품 개발에 더 집중해야 할 때
- 제3자의 객관적인 시선으로 우리 회사의 클라우드 아키텍처가 최선인지 검증받고 싶을 때
좋은 컨설팅의 조건
수많은 클라우드 컨설팅 후기 속에서 ‘성공’을 이끈 파트너들은 다음과 같은 공통점을 가집니다.
- 기술 내재화를 돕는 파트너: 컨설팅이 끝나면 두꺼운 보고서만 남는 것이 최악입니다. 컨설팅 과정에서 얻은 지식과 노하우가 회사 내부에 남아, 우리 팀이 스스로 최적화를 이어갈 수 있도록 적극적으로 기술 이전과 교육을 지원하는 파트너를 선택해야 합니다.
- 맞춤형 전략을 제시하는 파트너: 모든 회사에 통하는 만능 열쇠는 없습니다. 우리 회사의 비즈니스 모델, 서비스 특성, 트래픽 패턴을 정확하게 분석하여 우리만을 위한 맞춤형 로드맵을 제시하는지 꼼꼼히 확인해야 합니다.
- 명확한 성공 지표(ROI)를 약속하는 파트너: ‘비용을 절감해 드립니다’ 같은 막연한 약속이 아닌, ‘3개월 안에 컴퓨팅 비용 15% 절감’처럼 구체적으로 측정 가능한 목표(KPI)를 함께 설정하고, 그 결과를 책임지는 파트너십이 성공 확률을 높입니다.
결론: 작게 시작하고, 꾸준히 개선하세요
오늘 우리는 토스의 MSA 아키텍처, 당근마켓의 쿠버네티스 활용, 그래비톤 프로세서 도입, 그리고 FinOps 문화 구축까지, 국내 최고 스타트업들의 클라우드 비용 절감 사례를 다각도로 살펴보았습니다. 이 모든 전략은 ‘한 번에 끝내는 마법’이 아니라 ‘끊임없이 측정하고, 개선하고, 자동화하는’ 지속적인 과정이라는 공통점을 가집니다.
거창한 계획이 아니더라도 괜찮습니다. 지금 바로 시작할 수 있는 작은 행동이 큰 변화를 만듭니다.
오늘 당장 시작해볼 액션 아이템
- ✅ 팀원들과 함께 AWS Cost Explorer를 열어 가장 비용이 많이 드는 서비스 3가지 확인하기
- ✅ 개발 및 테스트 환경 서버 중 그래비톤으로 전환할 수 있는 후보 1개 찾아보기
- ✅ 한 달 이상 사용하지 않은 EBS 볼륨이나 할당되지 않은 Elastic IP 주소 찾아 삭제하기
작은 성공 경험이 쌓여 비용을 절감하는 문화가 만들어집니다. 여러분의 회사에서는 어떤 방법으로 클라우드 비용을 절감하고 있나요? 댓글로 최고의 팁을 공유해주세요.
자주 묻는 질문 (FAQ)
Q: MSA가 클라우드 비용 절감에 어떻게 도움이 되나요?
A: MSA는 서비스를 기능별로 작게 나누어, 트래픽이 몰리는 특정 기능에만 자원을 집중적으로 할당할 수 있습니다. 시스템 전체를 확장해야 하는 모놀리식 방식과 달리 필요한 부분만 확장하므로 불필요한 자원 낭비를 막아 비용을 최적화할 수 있습니다.
Q: AWS 그래비톤(Graviton) 프로세서는 왜 비용 효율적인가요?
A: 그래비톤은 스마트폰에 주로 사용되는 ARM 아키텍처 기반으로 설계되어 전력 효율이 매우 높습니다. 따라서 기존 x86 기반 프로세서와 동일한 성능을 내면서도 전력 소모가 적고 서버 자체의 가격도 저렴하여 즉각적인 비용 절감 효과를 볼 수 있습니다.
Q: FinOps 문화를 도입하기 위해 가장 먼저 해야 할 일은 무엇인가요?
A: 가장 먼저 해야 할 일은 ‘가시성 확보’입니다. AWS Cost Explorer 같은 도구를 사용해 어떤 팀이 어떤 서비스에 얼마를 쓰고 있는지 모든 구성원이 투명하게 볼 수 있도록 만들어야 합니다. 현재 비용 현황을 정확히 알아야 개선점을 찾고 최적화를 시작할 수 있습니다.