로드 밸런서란 무엇인가 — 트래픽을 나눠 담는 분배기의 원리

대형 마트 계산대를 떠올려 보자. 손님이 한 줄로만 서면 계산대가 아무리 많아도 소용이 없다. 안내 직원이 “3번 계산대 비었습니다”라며 손님을 빈 줄로 흩어 주어야 전체가 빠르게 돌아간다. 웹 서비스에서 이 안내 직원 역할을 하는 장치가 바로 로드 밸런서(load balancer)다. 밀려드는…

대형 마트 계산대를 떠올려 보자. 손님이 한 줄로만 서면 계산대가 아무리 많아도 소용이 없다. 안내 직원이 “3번 계산대 비었습니다”라며 손님을 빈 줄로 흩어 주어야 전체가 빠르게 돌아간다. 웹 서비스에서 이 안내 직원 역할을 하는 장치가 바로 로드 밸런서(load balancer)다. 밀려드는…

큰 건물의 로비에는 대개 안내 데스크가 있다. 방문객은 안쪽에 어떤 부서가 몇 층에 있는지 몰라도, 데스크에 용건만 말하면 알아서 담당자에게 연결된다. 웹 인프라에서 이 안내 데스크 역할을 하는 장치가 바로 리버스 프록시(reverse proxy)다. 사용자의 요청을 가장 먼저 받아 뒤편의 여러…

서울에서 접속한 웹사이트의 원본 서버가 미국 버지니아에 있다면, 데이터는 매번 태평양을 왕복해야 한다. 물리적 거리는 곧 지연시간이고, 지연시간은 곧 이탈률이다. 이 거리 문제를 정면으로 해결하는 인프라가 바로 CDN이다. CDN은 콘텐츠 사본을 전 세계 곳곳의 서버에 미리 뿌려 두고, 사용자가 요청하면…

같은 웹페이지를 두 번째 열 때 훨씬 빠르게 뜨는 경험, 누구나 한 번쯤 해봤을 것이다. 그 속도 차이의 배후에는 대부분 캐시(cache)가 있다. 캐시는 한 번 가져온 데이터를 가까운 곳에 임시로 저장해 두었다가, 다음에 같은 요청이 오면 원본까지 다녀오지 않고 바로…

로그인 한 번으로 여러 페이지를 자유롭게 오갈 수 있는 것은, 서버가 “이 사람 아까 로그인한 그 사람 맞아”라는 사실을 어딘가에 기억하기 때문이다. 그 기억을 서버 메모리가 아니라 토큰 안에 담아 클라이언트에게 넘겨 버리는 방식이 바로 JWT다. 오늘날 수많은 웹·모바일 서비스의…

결제가 완료되는 순간 주문 상태를 바꾸고, 깃 저장소에 코드가 푸시되는 즉시 빌드를 돌리고 싶다면 어떻게 해야 할까? 서버에 1초마다 “혹시 무슨 일 생겼어?”라고 계속 물어보는 방식은 낭비가 크다. 대신 사건이 벌어진 쪽이 먼저 알려 주게 하는 것 — 이것이 웹훅의…

마이크로서비스 수십 개가 초당 수만 번씩 서로를 호출하는 환경에서는, 통신 한 번의 비용이 시스템 전체의 속도를 좌우한다. 텍스트 기반 JSON을 주고받는 방식이 사람에게는 친절하지만 기계끼리의 고빈도 통신에는 군더더기가 많다는 문제의식, 바로 여기서 gRPC가 출발한다. 구글이 만든 이 고성능 통신 프레임워크는…

모바일 앱이 화면 하나를 그리려고 서버에 대여섯 번씩 요청을 던지던 시절이 있었다. 사용자 정보 한 번, 친구 목록 한 번, 게시글 한 번… 그렇게 받아 온 데이터에는 정작 쓰지 않는 필드가 절반이었다. 이 비효율을 정면으로 겨냥해 등장한 것이 바로 GraphQL이다.…

웹에서 앱과 서버가 데이터를 주고받는 거의 모든 장면 뒤에는 정해진 약속이 있다. 모바일 앱이 날씨를 불러오고, 쇼핑몰이 결제를 처리하고, 챗봇이 외부 도구를 호출하는 일까지 — 그 통신의 기본 문법이 바로 REST API다. 이름은 자주 듣지만 “정확히 무엇이고, 왜 표준이 됐는지”…

‘생성형 AI 발전 동향 – 시장 동향과 전망 2024년 12월 02일 “모든 것을 스스로 창조하는 AI의 시대가 성큼 다가왔다.” 최근 생성형 AI 기술이 빠르게 발전하면서 IT와 금융 산업에 혁신의 바람이 불고 있습니다. 가트너에 따르면 2025년까지 전 세계 기업의 50%가 생성형…