SOURCE SUMMARY
원문 핵심 요약
개발 도구 경험담의 검증·재시도·관찰 부분
모델 주변 기능을 분리해 점검하기
Paolo Perrone는 에이전트의 모델 호출·정형 출력·재시도·관찰·캐시 등을 작은 부품으로 나눠 구성한 개발 경험을 소개한다.
출력의 형식
응답을 정해진 자료형으로 검증하고 실패를 다시 처리하는 도구를 소개한다. 형식 통과가 내용의 진실성을 보장하지는 않는다.
실패의 처리
요청 실패에 재시도와 대기 간격을 적용하는 예제를 제시한다. 무조건 반복하는 운영 방식을 검증한 글은 아니다.
문제의 추적
처리 경로·응답·사용량을 관찰하면 오래된 검색 자료처럼 중간 단계의 문제를 찾는 데 도움이 된다는 경험담이다.
원문에서 확인한 핵심 구조
원문의 실행 포인트
반복 계산
캐시로 같은 계산을 재사용하고 토큰 수를 살펴 입력 규모를 관리하는 접근도 소개한다.
추가 공식 확인
9월 30일 확인한 Instructor 문서는 전송 재시도와 추출 재시도를 구분하고 종료 조건을 명시하도록 안내한다.
원문이 제시하는 실행 원리
선택의 원리
교체 가능한 부품
저자는 각 기능을 이해하고 교체할 수 있는 작은 구성요소의 조합을 선호한다.
주장의 범위
개인 경험
비용·오류 감소는 저자의 경험이며 일반 성능 보증이 아니다. 예제 코드를 실행하거나 라이브러리를 설치하지 않았다.
모델의 응답뿐 아니라 그 주변의 실패 처리와 관찰 기능을 따로 설계한다는 것이 핵심이다.
APPLICATION PROPOSAL
별도의 적용 제안
AI 보조 기능의 실패 경로 점검
합성 예제로 검증·종료 기준 정의
우리의 제안 · 현재 개발·검토 체계 유지
운영 반영 전 읽기 전용·분리 환경으로 검증
계약 정의
필수 필드와 미확인 상태를 정한다.
실패 분류
형식 오류와 연결 실패를 나눈다.
종료 설계
반복 상한과 사람에게 넘길 조건을 정한다.
기록 대조
원문 근거·오류·처리 상태를 함께 확인한다.
기준선과 비교할 검증 지표
검증 분리
형식과 사실 정확성 별도 확인
반복 통제
실패별 중단·전달 조건
추적 가능
오류가 발생한 단계 확인
적용 전에 고정할 통제
자료 보호
민감 입력을 로그나 외부 서비스에 전달하지 않음
승인 유지
다른 모델·서비스 전환은 사전 승인 범위 내
실행 유보
외부 패키지 설치·운영 변경 없이 설계 검토
- 범위·기준선 정의
- 데이터·근거 연결
- 병행 시범·오류 기록
- 사람 승인 후 확대