AI Agent

AI Agent는 LLM(대규모 언어 모델)로 구동되는 지능형 자율 시스템으로, 사용자가 정의한 특정 목표를 달성하기 위해 자체적으로 작업을 수행하도록 설계되어 있습니다. 기존의 규칙 기반 자동화와 달리, AI Agent는 다양한 도구를 동적으로 활용하여 복잡한 워크플로를 처리할 수 있으며 다른 에이전트와 협업할 수도 있습니다.

AI Agent는 기존의 규칙 기반 자동화로는 처리하기 어렵거나 불가능한 복잡한 비즈니스 활동을 자동화하는 강력한 방법을 제공합니다. 또한 프로세스에 적응력과 지능을 부여하여 효율성을 높이고 결과를 개선합니다.

AI Agent는 단순한 규칙 기반 프로세스를 넘어서는, 동적이고 목표 지향적인 자동화가 필요한 상황에 이상적입니다. 기업은 다음과 같은 경우 AI Agent 활용을 고려해볼 수 있습니다.

  • 복잡하고 여러 단계로 구성된 워크플로를 다양한 시스템과 의사 결정 지점에 걸쳐 자동화해야 합니다.
  • 다양한 문의를 처리하고, 정보를 조회하며, 복잡한 케이스를 에스컬레이션하는 등 고객 서비스 운영을 개선해야 합니다.
  • 정확한 단계가 미리 알려지지 않은 데이터 분석, 콘텐츠 생성, 또는 프로세스 최적화와 같은 적응력과 추론이 필요한 솔루션을 구현해야 합니다.
  • 자동화의 효율성을 누리면서도 중요한 지점에서는 여전히 인간의 감독과 개입이 필요합니다.

핵심 이점

목표 지향적 자율성
AI Agent는 사용자가 정의한 목표를 자율적으로 수행하여, 반복적이거나 여러 단계로 이루어진 작업으로부터 인적 자원을 해방시킵니다.
적응형 실행
에이전트는 다양한 도구와 하위 에이전트를 활용하여 환경에 동적으로 대응합니다. 이는 특정 상황에 따라 접근 방식을 조정할 수 있다는 의미이며, 더 효과적인 결과를 가져옵니다.
상호작용형 참여
AI Agent는 다단계 작업을 수행하고, 필요할 때 명확한 설명을 요청하며, 복잡한 문제는 인간에게 에스컬레이션하고, 결과를 검증하여 정확성을 보장합니다.

구성 요소

AI Agent는 사용자 정의 목표를 해석한 다음, 이를 달성하기 위한 최적의 행동 순서를 스스로 결정하여 동작합니다. 추론을 위해 기반이 되는 LLM을 활용하며, 다양한 도구와 데이터에 접근할 수 있습니다.

AI Agent

전문 개발자를 위해 다음 프레임워크를 제공합니다.

  • 도구 관리: 도구 동작을 선택, 구성 및 재정의하여 정밀하게 제어할 수 있습니다.
  • 고급 프롬프트 관리: 구조화되고 편집 가능한 프롬프트는 명확한 작업 정렬을 보장합니다.
  • 변수 관리: 유형 지정 및 사용자 정의 옵션을 갖춘 유연한 입력/출력 변수를 제공합니다.
  • 반영 및 사고: 향상된 에이전트 추론을 위한 내장 기능입니다.
  • HITL(휴먼 인더 루프): 품질 관리를 위해 사람의 감독을 쉽게 통합할 수 있습니다.
  • 장기 실행 프로세스: 에이전트는 장기간에 걸쳐 메모리와 상태를 유지합니다.
  • 테스트 및 디버깅: 강력한 도구와 상세한 로그로 효과적인 검증 및 문제 해결을 보장합니다.
  • 보안 및 가드레일: 무한 루프와 같은 문제를 방지하고 규정 준수를 보장하는 통합 안전 장치와 감사를 위한 포괄적인 로깅 기능을 제공합니다.

프롬프트 생성 및 최적화

프롬프트는 AI Agent의 동작을 안내하는 데 매우 중요한 요소입니다.

  • 에이전트를 위한 프롬프트 생성 - 팝업:(클라우드 전용 기능): 이 선택적 설정은 구조화된 접근 방식을 제공하여 사용자가 효과적인 프롬프트를 작성하는 데 도움을 줍니다.
  • 구조: 이 기본 구조는 기반 LM(언어 모델)이 올바르게 이해하고 반응하는 데 도움이 됩니다.
    • 역할: 에이전트의 페르소나와 전문성을 정의합니다(예: "당신은 전문 고객 서비스 담당자입니다").
    • 목표: 에이전트가 달성해야 하는 전체 목표를 명시합니다(예: "고객 문의를 효율적으로 해결하기").
    • 작업 계획: 에이전트가 목표를 달성하기 위해 따라야 하는 주요 단계 또는 전략을 설명합니다.
  • 생성 및 최적화 비교:
    • 생성: 초기 입력을 기반으로 완전히 새로운 프롬프트를 생성합니다.
    • 최적화: 기존 프롬프트의 역할, 목표 및 실행 계획을 모범 사례에 맞게 재구성하여 LM의 명확성과 효율성을 향상시킵니다. 기존 프롬프트의 요소, 도구 세부 정보, 그리고 AI Agent 구성의 기타 측면을 고려합니다.

도구 통합

AI Agent는 외부 시스템과 상호작용하고 작업을 수행하는 능력을 통해 힘을 얻습니다.

  • 특정 작업을 위한 도구: AI Agent는 도구를 사용하여 특정 작업을 수행하며, 플랫폼은 사실상 모든 응답을 잠재적인 도구 상호작용으로 간주하도록 설계되었습니다.
  • 사용 가능한 도구: 에이전트는 다음과 같은 다양한 도구에 접근할 수 있습니다.
    • API 태스크: 외부 API 기반 자동화와 상호작용합니다.
    • Bot: 기존 봇 기능을 활용합니다.
    • 프로세스: 미리 정의된 워크플로를 트리거하고 관리합니다.
    • 다른 에이전트: 여러 에이전트와 협업하여 복잡한 워크플로를 사용할 수 있도록 합니다.
    • 양식: 데이터 수집 또는 인간 상호작용 지점에 사용됩니다.
  • 도구 명명 규칙: 도구의 이름은 리포지토리에서 연결된 파일의 이름과 직접적으로 일치합니다.
  • 변수 지원: 자동화가 도구로 사용될 때 지원되지 않는 변수 유형이 있는 경우에도 해당 자동화를 사용할 수 있지만, 이러한 변수에 대한 입력은 불가능하며 출력도 받을 수 없습니다.