As I've always been

  • 홈
  • 태그
  • 미디어로그
  • 위치로그
  • 방명록

Python/llama-index 1

Llama-index 기반 CRAG 워크플로우 만들기

Corrective Retrieval Augmented Generation(CRAG)는 평가기와 대규모 웹 검색을 통해 검색된 문서의 관련성을 평가하고 증강하여 언어 모델 생성의 견고성을 높이고, 보다 정확하고 신뢰할 수 있는 정보를 생성에 사용하도록 설계된 방법이다. llama-index는 RAG를 구현하기 위한 특화형 프레임워크이다.이 llama-index를 활용해 CRAG 워크플로우를 구현해보려 한다.라마인덱스 워크플로우는 기본적으로 'event'라는 객체를 전파하는 방식으로 순차적으로 진행하는 방식으로 동작한다.Workflow 객체는 step 단위로 실행을 하며 각 step간에 Event를 통해 다음 step을 결정하게 된다. CRAG의 핵심 요소인 웹 검색 평가 엔진에는 관련성 평가기로 GPT-..

Python/llama-index 2025.06.12
이전
1
다음
더보기
프로필사진

As I've always been

  • 분류 전체보기 (273)
    • AI (31)
      • LLM (8)
      • Transformers (2)
      • PyTorch (6)
      • Machine Learning (4)
      • 논문 리뷰 (1)
      • Kaggle Writeups (1)
      • AI News (7)
      • Nvidia Jetson (1)
      • AI로 생성한 작품 (1)
    • OS (23)
      • OS - Overview (9)
      • 메모리 관리 (6)
      • 프로세스 관리 (8)
    • Container (13)
      • Docker (4)
      • Kubernetes (6)
    • DevOps (5)
      • OpenTelemetry (1)
      • 백엔드 (1)
      • NGINX (1)
    • 시스템 설계 및 디자인 패턴 (3)
      • 시스템 설계 (1)
      • 클라우드 디자인 패턴 (1)
    • Python (31)
      • ray (1)
      • FastAPI (2)
      • scikit-learn (1)
      • Flask (3)
      • sqlalchemy (5)
      • llama-index (1)
    • DB (18)
      • PostgreSQL (9)
      • MySQL (3)
      • Vector DB (2)
    • C++ (40)
      • C++ 기본 (40)
    • Java (52)
      • Java 기본 (45)
      • JVM (2)
      • Java Tips (4)
    • 알고리즘 (8)
    • JavaScript (17)
      • Node.js (6)
      • React Native (4)
      • JavaScript 기본 (6)
    • IoT (5)
    • Object Oriented Programming (1)
    • 네트워크 (4)
    • Web (7)
      • html & css (3)
    • Linux (4)
    • Android (6)
    • Shell script (3)
    • 인코딩 (1)
    • AWS (1)

Tag

파이썬 성능 튜닝, simple queue service, opensource llm, GPT, MultiQuery Attention, mixtral, 라마3, Multi-Query Attention, Python, decoder-only transformer, SQL, 오픈소스AI, SQLAlchemy, MultiHead Attention, docker, pytorch, LLM, flask, fifo queue, llama3.1,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/09   »
일 월 화 수 목 금 토
1 2 3 4 5 6
7 8 9 10 11 12 13
14 15 16 17 18 19 20
21 22 23 24 25 26 27
28 29 30

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

티스토리툴바