AI 에이전트·업무흐름데이터·지식관리IT·AI 인프라

에이전트 RAG의 제어와 연산을 분리하기

Fareed Khan / GitHub · 발행일 미확인

Enterprise Agentic RAG Platform

자료 분류: AI 에이전트·업무흐름 · 데이터·지식관리 · IT·AI 인프라

공식 원문 보기

SOURCE SUMMARY

원문 핵심 요약

100%텍스트로 읽기

확대 후 그림 안에서 좌우·위아래로 이동할 수 있습니다.

제어 계층과 연산 계층의 역할; CPU 제어: 요청·상태·에이전트; GPU 연산: Ray 기반 AI 연산
원문 사실 재구성 · 공개 README 구성 · Fareed Khan / GitHub · Enterprise Agentic RAG Platform · README · High-Level Architecture L25–29 · 확인 2026-10-01 · 원문 자료

동일 저자의 공개 README 전체 · 아키텍처·배포 안내

요청 처리와 AI 연산 분리

CPU 중심 제어 계층과 Ray 기반 GPU 연산 계층을 나누는 구성을 설명한다.

에이전트 제어

LangGraph로 계획·질의 재작성·검색 경로를 구성한다.

혼합 검색

Qdrant의 벡터 검색과 Neo4j의 관계 검색을 결합한다.

분산 수집

S3 문서를 파싱·분할한 뒤 임베딩과 관계를 생성해 저장한다.

README가 제시한 시스템 구성

운영 구성

인프라와 확장

Terraform·EKS·Ray·Karpenter를 이용한 배포와 자원 확장 절차를 안내한다.

설계 안내의 범위

단계별 구축

데이터와 API를 나눠 준비

인프라·클러스터·연산 서비스·API·자료 수집 순서를 설명한다.

확인 절차

상태 점검과 질의 테스트

서비스 연결 확인, 종단 간 대화 테스트, 장애 진단 예시를 제공한다.

구축 안내이며 실제 운영 성과를 검증한 연구는 아니다.

APPLICATION PROPOSAL

별도의 적용 제안

100%텍스트로 읽기

확대 후 그림 안에서 좌우·위아래로 이동할 수 있습니다.

제안 · 비운영 RAG 구조 비교; 자료·권한 정의: 소유자·판본·접근 범위; 경로 비교 설계: 같은 질문·정답 비교; 부하·오류 점검: 허용 환경의 지연·실패; 확대안 심의: 품질·비용·부담 심의
우리의 적용 제안 · 비민감 사본, 배포 전 사람 승인 · 별도의 적용 제안

우리의 제안: 읽기 전용 RAG 구조 검토

승인된 기술자료 한 묶음으로 검색 경로 비교

기존 검색과 병행하는 비운영 검증에 한정

비민감 사본·고정 질문으로 오프라인 평가

자료·권한 정의

문서 소유자·판본·접근 범위를 확인하고 검증용 사본을 고정한다.

경로 비교 설계

기존 검색과 벡터·관계 결합 후보를 같은 질문·정답으로 비교한다.

부하·오류 점검

허용된 시험환경에서 지연·실패·근거 누락과 권한 경계를 점검한다.

확대안 심의

담당자가 품질·비용·운영 부담을 검토해 추가 시험 여부를 승인한다.

확대 판단에 쓸 지표

근거 회수율

정답에 필요한 근거 중 검색 결과에 포함된 근거 비율

답변 근거 일치율

핵심 주장 중 승인된 출처에서 확인 가능한 비율

응답 지연

동일 요청 조건에서 전체 응답 시간의 중앙값과 상위 구간

검수 통과 건당 비용

검색·연산·재시도 비용 합계 / 검수 통과 건수

기존 시스템과 운영 경계

기준 체계 존중

기존 Teamcenter·PDM·ERP 및 확립된 M-BOM 일관성을 기준으로 사용

읽기 전용

설계변경·출도·생산지시와 원천 데이터 쓰기는 담당자 승인 절차 유지

권한·비용 통제

최소권한·접근 필터·예산 상한을 별도 검토하고 배포 전 사람 승인

검증 이력

출처 판본·평가 질문·실패·복구 결과를 보존하고 근거 부족은 보류

  1. 자료·권한 확인
  2. 정답 기준 비교
  3. 오류·부하 검증
  4. 담당자 확대 승인