AI Agent - 모범 사례

AI Agent는 생성형 AI와 자동화를 결합한 강력한 디지털 시스템입니다. 최상의 결과를 얻으려면 실제 경험과 전문가의 지침에서 도출된 이러한 실용적인 모범 사례를 따르십시오.

에이전트의 집중력 유지
  • 범위 축소: 각 에이전트는 하나의 명확한 문제를 해결해야 합니다. 너무 많은 일을 수행하려고 하는 에이전트는 피하십시오. 예를 들어 대규모 워크플로에서는 전문화된 에이전트들에게 태스크를 위임하는 감독자 에이전트를 사용하십시오(예: 청구 감독자 → 청구 세부 에이전트 + 사기 확인 에이전트 + 승인 에이전트).
  • 도구 과부하 피하기: 도구 수를 적게 유지하십시오(10개 이하로 적용). 도구가 너무 많으면 혼란이 가중되고 실패율이 높아집니다.
자동화와 에이전트 중에서 선택 에이전트
  • 결정론적 자동화 사용: 자동화, 프로세스 및 API 태스크는 신뢰성 있게 스크립트화하고 유지할 수 있는 단계에 가장 적합합니다.
  • AI Agent 사용: 추론, 유연성 또는 동적 의사결정 태스크에 가장 적합합니다. 모든 작업에 에이전트를 우선적으로 사용하지 마십시오. 대부분의 프로세스는 기본 자동화로 처리됩니다.
한 에이전트에서 일괄 처리하지 않기
  • 대용량 테이블/목록 사용하지 않기 에이전트에 대량의 데이터(예: 청구 ID 20개)를 주입하지 마십시오.
  • 에이전트 외부에서 루프: 프로세스나 Bot을 사용하여 항목을 한 번에 하나씩 전송하십시오.
  • 예: 프로세스가 청구 테이블의 행을 반복적으로 처리하며 각 행마다 에이전트를 호출합니다.
더미 또는 검증 도구 사용

  • 에이전트가 가끔 필요햔 출력을 놓치는 경우 추적기/검증 도구를 추가하십시오.

  • 이 도구는 에이전트가 제공한 내용을 그대로 반영하고 누락된 부분을 표시합니다.

  • 이러한 도구가 있으면 에이전트는 문제를 더 잘 인지하고, 사람에게 에스컬레이션할 가능성이 높아집니다.

신뢰성을 위한 사람의 개입

  • 사람이 누락 데이터를 검토하거나 보완할 수 있는 방법을 항상 포함하십시오.

  • 점진적 온보딩 전략:

    • 처음에는 에이전트 출력물을 사람이 100% 검토하도록 합니다.

    • 신뢰도가 높아지면 검토하는 비율을 줄여 나갑니다(예: 50%로 줄였다가, 10%로 줄임).

    • 결국에는 예외 케이스만 검토하게 됩니다.

  • 이러한 방식은 시간이 지남에 따라 신뢰를 쌓고, 검증되지 않은 에이전트에 지나치게 의존하지 않도록 해줍니다.

균형 잡힌 프롬프트 작성
  • 명확하고 간결한 프롬프트: 프롬프트를 너무 모호하게 작성하면 혼란을 야기하고, 너무 엄격하게 작성하면 경직성을 초래합니다.
  • 프롬프트를 길게 작성하지 않기: 에세이 형식의 지침은 정확성을 떨어뜨립니다.
  • 맥락 제공: 도구 선택과 의사 결정에 도움이 될 만한 맥락을 제공합니다.
자동화를 위한 입력 및 출력 구조화
  • 구조화된 변수 사용: `claim_id`, `policy_id`를 단일 JSON string보다 우선적으로 사용합니다.
  • 필요한 경우에만 JSON 사용: API와 직접 통합하는 경우에만 JSON을 사용합니다.
  • 자동화에 적합: 구조화된 변수는 다운스트림 처리에 더 용이합니다.
테스트 및 조정
  • 다양한 테스트: 정상적인 경로와 예외 케이스를 모두 실행해 봅니다.
  • 거버넌스 로그 활용: 추론, 도구 호출 및 데이터 격차를 분석합니다.
  • 빠르게 반복: 프롬프트, 출력 및 도구를 지속적으로 조정합니다.
신뢰성을 고려하여 구축

  • 출력값을 검증합니다(필수 필드에 null이 없어야 함).

  • 누락되었거나 일관되지 않은 데이터에 대해 오류 처리 경로를 추가합니다.

  • 데이터 트래커나 더미 도구를 사용하여 완전성 검사를 개선합니다.