도커와 PM2를 이용한 Node.js scale-out 및 부하 테스트

배경

Node.js를 클러스터링 해야하는 이유

비슷한 이유로 GIL을 기반으로 동작하는 Python앱도 I/O를 제외하고는 싱글 스레드처럼 동작하므로 WSGI를 이용해 클러스터링하곤 했다.

도구 선택 및 이유

PM2(Process Manager2)

• 한 서버 내에서의 부하 분산은 Nginx로도 할 수 있고, Node.js의 cluster 모듈을 이용하여 할 수도 있다.

• 사실 확장, 로드 밸런싱 같은 부분은 Devops의 문제라고 생각하기 때문에, Node.js 코드에서 cluster 모듈을 사용하여 Worker들을 생성하는 방법은 좋지 못하다고 생각했다.

• 하지만 그렇다고 한 서버 내에서의 부하 분산을 위해 Nginx 설정을 하기에는 복잡성만 늘어나는 것 같다.

PM2를 사용하지 않는 방식 - Cluster 모듈 사용

import cluster from 'cluster';
import { cpus } from 'os';
import process from 'process';
import express from "express";

const numCPUs = cpus().length;

if (cluster.isPrimary) {
  for (let i = 0; i < numCPUs; i++) {
    cluster.fork();
  }
} else {
  const app = express();
	
	app.get("/", (req, res) => {
	  let variable = 0;
	  for (let i = 0; i < 1000000; i++) {
	    variable += i;
	  }
	  res.status(200).send(`result : ${variable}`);
	});
	
	app.listen(8080);
}

PM2를 사용하는 방식

import express from "express";

const app = express();
	
app.get("/", (req, res) => {
  let variable = 0;
  for (let i = 0; i < 1000000; i++) {
    variable += i;
  }
  res.status(200).send(`result : ${variable}`);
});

app.listen(8080);

Docker

Grafana K6

• 도커 컨테이너로 실행이 가능하므로 따로 설치가 필요 없다.

• 무엇보다 javascript로 테스트용 스크립트를 작성할 수 있다.

• CLI 환경으로 큰 설정 없이 바로 사용하기 편리하다.

테스트 환경

예상 아키텍처

PM2 도커라이징 작업

// app.js
import express from "express";

const app = express();

app.get("/", (req, res) => {
  let variable = 0;
  for (let i = 0; i < 1000000; i++) {
    variable += i;
  }
  res.status(200).send(`result : ${variable}`);
});

app.listen(8080);

# node 16 LTS 버전
FROM node:16 

# 앱 디렉토리
WORKDIR /usr/src/app

# 의존성 설치
COPY package*.json ./

RUN npm install
RUN npm install pm2 -g

# 앱 소스 추가
COPY . .

EXPOSE 8080

# pm2를 foreground로 실행 및 run 시 클러스터 인자 받기
ENTRYPOINT ["pm2-runtime","start","app.js"]

Trouble Shooting

테스트 수행

K6 설정

// script.js
import http from "k6/http";
import { sleep } from "k6";

export const options = {
  vus: 1000, // 가상 유저 수
  duration: "30s", // 테스트 시간
};

export default function () {
  const url = "http://localhost:8000";
  http.get(url);
  sleep(1);
}

클러스터링을 수행하지 않은 경우의 부하테스트

클러스터링을 수행한 경우의 부하테스트

테스트 결과 비교

• HTTP 요청 처리량은 7428개에서 28600개로 약 285% 증가

• HTTP 요청에 대한 대기 시간은 3.18s에서 40.98ms로 약 98% 단축

• 초당 데이터 수신량은 1.8MB에서 7.1MB로 약 294% 증가

• 초당 데이터 송신량은 602KB에서 2.3MB로 약 282% 증가

결론

참고문헌