System prompt는 AI Agent Studio 내에서 강력한 기능으로, AI Skills의 동작과 AI Agents의 응답을 세부적으로 조정할 수 있게 해줍니다. 이는 모델 연결이 작업에 어떻게 접근하고 실행해야 하는지 안내하는 지침 또는 가이드라인 역할을 합니다.

주: System prompt는 선택 사항이지만, AI Skills의 효과를 극대화하는 데 유용한 도구가 될 수 있습니다.

개요

System prompt는 AI Agent에게 제공하는 초기 지시 사항입니다. 에이전트의 기본 컨텍스트 역할을 하며, 성격, 역할, 전문성 및 사용자와의 상호작용 방식을 정의합니다. 에이전트의 역할과 행동을 설정하는 무대를 마련하는 것이라고 생각하면 됩니다.


System prompt

System prompt는 AI Agent에서 다음과 같은 이유로 중요합니다.

  • 일관성: 에이전트가 대화 내내 일관된 페르소나와 응답 스타일을 유지하도록 보장합니다.
  • 컨텍스트 설정: 백그라운드 정보와 지침을 제공하여 에이전트가 상호작용의 범위와 목적을 이해할 수 있도록 합니다.
  • 행동 형성: 에이전트의 행동을 지시하며, 어조, 유용성, 제한 사항까지 규정합니다.
  • 효율성: 시스템 프롬프트에서 기초를 마련해 개별 프롬프트 내의 반복적인 지시를 방지합니다.
  • 맥락화: System prompt는 즉각적인 입력을 넘어 AI 모델에 추가적인 맥락을 제공합니다. 이를 통해 모델이 특정 유스케이스의 요구 사항을 이해하고, 그에 따라 응답을 조정할 수 있습니다.
  • 태스크 세분화: System prompt를 사용하여 모델이 작업을 수행하는 방법에 대한 자세한 지침을 제공할 수 있습니다. 여기에는 원하는 출력 형식, 언어 스타일, 또는 특정 제약 조건이나 선호 사항을 지정하는 것이 포함됩니다.
  • 도구 활용: System prompt는 AI Agent Studio 내에서 다른 도구나 기능을 사용하는 방법을 모델에게 알려주는 데에도 사용할 수 있습니다. 예를 들어, 모델이 특정 사전이나 유의어 사전을 활용하여 응답 결과를 개선하도록 할 수 있습니다.

이점

  1. 에이전트의 역할 정의:
    • 에이전트에게 맡길 역할을 명확하게 설명하세요. 예: “당신은 온라인 서점의 친절한 고객 지원 담당자입니다.”
    • 구체적으로 설명하세요! \'당신은 도움이 되는 보조원입니다.\' 대신, \'당신은 고대 이집트 역사에 전문 지식을 갖춘 연구 보조원입니다.\'라고 표현해 보세요.
  2. 어조와 스타일 설정:
    • 원하는 어조를 설명하세요. 예: \'정중하고 전문적인 어조를 유지하세요,\' 또는 \'열정적이고 유머 있게 응답하세요.\'
    • 언어 스타일을 정의하세요. 예: \'명확하고 간결한 언어를 사용하세요,\' 또는 \'격식을 차린 학술적 스타일로 말하세요.\'
  3. 백그라운드 정보 제공:
    • 에이전트가 역할을 효과적으로 수행하기 위해 필요한 관련 맥락이나 정보를 포함하세요. 예: \'저희 회사는 친환경 청소 제품을 판매합니다.\' 또는 \'사용자는 코딩 초보자입니다.\'
  4. 구체적인 지침 제공:
    • 에이전트가 수행해야 할 구체적인 작업이나 행동을 간략하게 설명합니다. 예: \'항상 답변을 제공하기 전에 명확히 하기 위한 질문을 하세요\' 또는 \'일반적인 문제 해결을 위한 단계별 지침을 제공하세요.\'
    • 제한 사항이나 제약 조건을 포함하세요. 예를 들어: \'재정 조언을 제공하지 마세요\' 또는 \'개인 정보에 관한 질문에 답하지 마세요.\'

AI guardrail 및 System prompt

AI guardrail이 AI Skill에 적용되면 가드레일 서비스에서는 System prompt와 사용자 프롬프트에 대해 민감한 데이터와 유해성을 검사합니다.

  • 마스킹: System prompt 및 사용자 프롬프트 내의 모든 텍스트는 관련 가드레일의 설정에 따라 마스킹됩니다.
  • 복합 유해성 점수: LLM이 반환한 유해성 점수는 System prompt와 사용자 프롬프트 모두에 대해 종합적으로 분석한 내용을 나타내며, UI(사용자 인터페이스)의 프롬프트 아래에 표시됩니다.

가드레일이 활성화된 폴더 내에서의 실행:

Task Bot 내에서 AI Skill을 실행하거나 활성 가드레일이 있는 폴더에 위치한 API Task를 실행할 때, AI Skill에 포함된 모든 System prompt가 사용자 프롬프트와 함께 분석을 위해 자동으로 AI guardrail로 전송됩니다.

시스템 프롬프트의 예

예 1: 고객 지원 에이전트

당신은 온라인 전자제품 소매업체인 \'GadgetWorld\'의 친절하고 효율적인 고객 지원 담당자입니다. 정중하고 친절한 어조를 유지하세요. 귀하의 목표는 고객의 질문에 답변하고 그들이 겪고 있는 문제를 해결하는 것입니다. 우리의 제품 및 서비스에 대해 잘 알고 있어야 합니다. 질문에 답할 수 없는 경우, 상사에게 보고하세요. 사용자 예시: "제 주문이 아직 도착하지 않았습니다." 응답 예시: “유감이군요. 추적할 수 있도록 주문 번호를 알려주시겠습니까?"

예 2: 창의적 글쓰기 파트너

당신은 사용자가 아이디어를 구상하고 이야기를 발전시키는 데 도움을 주는 창의적인 글쓰기 파트너입니다. 당신은 열정적이고 격려하는 태도를 가지고 있습니다. 사용자의 상상력을 자극할 수 있도록 개방형 질문을 하는 데 집중하세요. 완전한 이야기 개요를 제공하지 말고, 사용자가 창작 과정을 따라갈 수 있도록 안내하세요. 사용자 예시: "판타지 이야기를 쓰고 싶어요." 응답 예시: "정말 멋지군요! 어떤 세계를 상상하고 있나요? 그 세계의 마법 시스템, 주민들, 그리고 갈등에 대해 이야기해 주세요."

사용자 및 권한

System prompt는 프로 개발자에게 제공되는 제어 및 맞춤화 기능을 향상시킵니다. 모든 System prompt를 지원하는 Model connections에서 사용할 수 있습니다. 현재 대부분의 사용 가능한 모델이 System prompt 기능을 지원합니다.

전문 개발자는 AI Skill 내의 전용 필드에 System prompt를 입력할 것입니다. 이 선택적 필드는 개발자가 모델의 방향을 설정하거나 기반을 다질 수 있도록 하여, 최종 사용자 프롬프트에 어떻게 접근하고 응답해야 하는지를 정의합니다.

선택 사항이지만, System prompt는 전문 개발자가 AI Skill에 대한 특정 역할을 정의할 수 있도록 하여 그 행동과 반응에 큰 영향을 미칩니다. 이를 통해 특정 작업과 사용자 상호작용에 맞춰진 AI Skills을 보다 정밀하게 생성하고 제어할 수 있습니다.