서블릿과 멀티 쓰레드

서블릿이 초록색 부분 제외 모든 부분을 다 해줌

 

HTTP 요청시

• WAS는 Request, Response 객체를 새로 만들어서 서블릿 객체 호출

• 개발자는 Request 객체에서 HTTP 요청 정보를 편리하게 꺼내서 사용

• 개발자는 Response 객체에 HTTP 응답 정보를 편리하게 입력

• WAS는 Response 객체에 담겨있는 내용으로 HTTP 응답 정보를 생성

 

 

서블릿 컨테이너: 톰캣처럼 서블릿을 지원하는 WAS를 서블릿 컨테이너라고 함

• 서블릿 컨테이너는 서블릿 객체를 생성, 초기화, 호출, 종료하는 생명주기 관리

• 서블릿 객체는 싱글톤으로 관리(객체 하나 만들어서 공유) 

Request,response는 각 요청마다 다르기에 새로 만드는게 맞지만, helloServlet같은 경우는 재사용만 하면 된다,

 

• 모든 고객 요청은 동일한 서블릿 객체 인스턴스에 접근

• 공유 변수 사용 주의( ex: 내가 로그인했는데, 다른 사람의 유저정보를 알 수 있음)

• 서블릿 컨테이너 종료시 함께 종료

• JSP도 서블릿으로 변환 되어서 사용

• 동시 요청을 위한 멀티 쓰레드 처리 지원 

 

 

동시요청-멀티쓰레드

 

서블릿 객체를 누가 호출하지? 바로 쓰레드가 호출한다.

프로세스는 프로그램을 실행하는 것이고, 쓰레드는 이 프로그램 안에서 여러 가지  작업을 하는 것. 한번에 한줄 씩 실행되기에 동시처리가 필요하면 쓰레드를 추가로 생성해 줘야 한다.

 

요청마다 쓰레드 생성의 장단점

장점

동시 요청을 처리할 수 있다.

CPU, 메모리같은 리소스가 허용할 때까지 처리가능 하고,

하나의 쓰레드가 지연되더라도 나머지는 처리가 가능하다.

 

단점

쓰레드 생성비용이 비싸고, 요청때마다 쓰레드 생성하면,응답 속도가 늦어진다.

컨텍스트 스위칭(코어를 전환할때 드는) 비용이 발생한다.

쓰레드 생성에 제한이 없다. 너무 많이 요청하면 너무 많아져서 서버 다운 가능

 

방법

쓰레드 풀 사용

요청이 오면 쓰레드 풀에 있는 이미 만들어진 쓰레드를 사용

다 쓰면 쓰레드를 죽이는 것이 아니라 반납한다.

즉, 죽이고 생성하는것이 아니라 빌리고 반납하는 것

최대 쓰레드가 모두 사용중이어서 쓰레드 풀에 쓰레드가 없으면, 거절하거나, 대기 시킨다.

 

쓰레드풀이 너무 낮게 설정되어 있으면 (평균 200개, 10개로 설정된다면)

요청이 계쏙 올수록 계속 요청이 쌓인다. 계속 밀리면서 장애 남

 

쓰레드풀이 너무 높게 설정되어 있으면 (평균 200개, 10000개로 설정된다면)

CPU,메모리 리소스 임계점 초과로 서버가 다운된다.

애플리케이션 로직의 복잡도, CPU, 메모리, IO 리소스 상황에 따라 모두 다르기에 적정 숫자를 찾아서 개발해야한다.

멀티 쓰레드에 대한 부분은 WAS가 처리해주기에 개발자는 멀티 쓰레드 관련 코드를 신경쓰지 않아도 된다.

스프링 빈들은 싱글톤이기에 WAS가 멀티쓰레드로 요청이 들어오게되고, 따라서 개발자는 멤버 변수가 공유되기 때문에 이것만 주의하면 된다.