As I've always been

  • 홈
  • 태그
  • 미디어로그
  • 위치로그
  • 방명록

DevOps/백엔드 1

Request가 실질적으로 처리되기까지의 여정

백엔드에 요청을 보낼 때 대부분의 경우 요청의 처리 측면에 집중하는데, 이는 실제로는 마지막 단계에 불과하다. 요청이 처리될 준비가 되기까지 훨씬 더 많은 일이 일어나게 된다. 이를 6단계로 나누면 각 단계는 이론적으로 전용 스레드나 프로세스에 의해 실행될 수 있다. 거의 모든 백엔드, 웹 서버, 프록시, 프레임워크, 심지어 데이터베이스도 이 모든 단계를 수행해야 하며, 각 단계마다 다른 방식으로 수행한다. 1. Accept 요청은 종종 연결(TCP/QUIC)을 통해 전송되며 백엔드에서 연결을 수락해야 한다. 클라이언트가 포트 443에서 서버에 연결하면 서버 OS 커널에 의해 3방향 핸드셰이크가 완료되고 연결이 수신기 대기열에 배치되게 되는데, 이 대기열을 수락 대기열(accept queue)이라고 부른..

DevOps/백엔드 2023.10.31
이전
1
다음
더보기
프로필사진

As I've always been

  • 분류 전체보기 (270)
    • AI (31)
      • LLM (8)
      • Transformers (2)
      • PyTorch (6)
      • Machine Learning (4)
      • 논문 리뷰 (1)
      • Kaggle Writeups (1)
      • AI News (7)
      • Nvidia Jetson (1)
      • AI로 생성한 작품 (1)
    • OS (23)
      • OS - Overview (9)
      • 메모리 관리 (6)
      • 프로세스 관리 (8)
    • Container (13)
      • Docker (4)
      • Kubernetes (6)
    • DevOps (5)
      • OpenTelemetry (1)
      • 백엔드 (1)
      • NGINX (1)
    • 시스템 설계 및 디자인 패턴 (3)
      • 시스템 설계 (1)
      • 클라우드 디자인 패턴 (1)
    • Python (18)
      • ray (1)
      • FastAPI (2)
      • scikit-learn (1)
      • Flask (3)
      • sqlalchemy (5)
    • DB (16)
      • PostgreSQL (8)
      • MySQL (2)
      • Vector DB (2)
    • C++ (40)
      • C++ 기본 (40)
    • Java (52)
      • Java 기본 (45)
      • JVM (2)
      • Java Tips (4)
    • 알고리즘 (8)
    • JavaScript (17)
      • Node.js (6)
      • React Native (4)
      • JavaScript 기본 (6)
    • IoT (5)
    • Object Oriented Programming (1)
    • 네트워크 (4)
    • Web (7)
      • html & css (3)
    • Linux (4)
    • Android (6)
    • Shell script (3)
    • 인코딩 (1)
    • AWS (1)

Tag

fifo queue, LLM, decoder-only transformer, SQLAlchemy, opensource llm, docker, GPT, MultiQuery Attention, Python, MultiHead Attention, flask, mixtral, llama3.1, 라마3, pytorch, SQL, simple queue service, Multi-Query Attention, 오픈소스AI, 파이썬 성능 튜닝,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/05   »
일 월 화 수 목 금 토
1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

티스토리툴바