1. 채점 도커 1개

현재 상황 요약 및 문제점

• 현재 채점 도커 컨테이너 하나만 띄워 채점을 진행하고 있음

  또한 매 채점을 시작하기 전에 docker build 를 매번 실행한 후 채점을 진행하여 이미지를 빌드하는데 시간이 오래 걸림.

  ⇒ 채점 결과를 받는데까지 시간이 상당히 걸림

• 채점 서버 내부에서 cron으로 매초마다 큐에 채점이 들어있는지 없는지를 지속적으로 확인하는 작업을 하고 있음

다음 개선 사항

• 채점 도커를 늘려보자!

자세한 구현 방식

• Frontend → API 서버
  • 제출 버튼 클릭시 제출한 코드를 채점 요청 API를 호출하여 보낸다.
  • 이 과정은 API 서버에 요청보내고 요청 보내는 것이 성공하면 바로 응답을 받는다. (=== 채점 결과를 기다리지 않는다)
  • 그리고 API 서버는 받은 코드를 DB의 submission table에 저장을 한다.
• API 서버 → 채점 서버

  • 제출을 저장하고 받은 submissionId를 채점 서버로 API 요청을 보낸다.

  • 채점 서버는 받은 submissionId를 채점 서버 내부 채점 큐에 넣는다.

    • 현재는 채점 서버 내부에 배열로 된 채점 큐를 임시로 생성했다.
      • 이 채점 큐는 3개 이상의 요청을 모두 담고 있다.
      • 이는 추후에 Redis로 변경될 예정이며 3개의 요청만 서버 내부 큐에 저장할 예정이다.
    • 여기까지가 API 서버 → 채점 서버의 API 요청과 응답 끝이다.

  • 채점 서버 내부에서는 cron을 매초마다 돌리고 있다.

    @Cron('* * * * * *')
    async handleCron() {
      if (this.isReady && this.queue.length > 0) {
        this.isReady = false;
        const submissionId = this.queue.shift();
        await this.createSubmission(submissionId);
      }
    }
    

    • 이는 채점 도커 컨테이너가 채점을 진행중인지와 큐에 채점이 쌓여있는지 여부를 확인하여 채점하기 위함이다.
    • isReady : 채점 도커 컨테이너 채점 진행 여부

  • createSubmission 은 DB의 일부 table에 readonly로 접근가능하다.

    • problem, submission, language, testcase 테이블
    • 받은 submissionId 로 DB에 접근하여 테스트케이스, 언어, 제출 코드, 문제 메모리 및 시간 제한 정보를 가져온다.
    • 가져온 정보를 채점 서버 내부에 Promise 로 파일로 저장한다.
    • 채점 도커 컨테이너를 Promise 로 docker run 시킨다.
    • 도커 컨테이너 내부에 Promise 로 위에서 파일로 저장한 내용을 모두 복사하여 넣는다.
    • docker exec 명령어를 사용하여 도커 컨테이너 내부 채점 프로그램을 비동기적으로 실행하여 채점을 한다.
      • data 이벤트를 실행시켜 채점이 끝난 것을 감지할 수 있다.
      • 채점 서버 내부에 저장한 채점 완료된 파일은 비동기적으로 지운다.
      • 받은 data에는 채점 결과가 담겨있다.
• 채점 서버 → API 서버
  • 받은 data를 파싱하여 결과 코드, 메모리, 실행시간을 채점 결과 API 호출로 API 서버로 보낸다.
  • API 서버는 받은 정보를 DB의 result table에 저장한다.
• • .dockerignore 추가 ⇒ deploy시에 build 한 번만 하도록 변경

2. 채점 도커 3개

서버 스케일업(1vCPU → 4vCPU)

• 하나의 서버에서 여러 개의 컨테이너를 돌리기 위해 스케일업 진행했다.
  • 기존 : [Compact] 1vCPU, 2GB Mem, 50GB Disk [g1]
  • 현재 : [Standard] 4vCPU, 4GB Mem, 50GB Disk [g1]
  • 최소 1vCPU를 보장해주고 쾌적한 환경에서 채점을 진행하기 위함이다.
  • 따라서, CPU의 번호를 지정하여 docker run을 해야 지정한 CPU만 사용한다.