AI Guardrails 생성 및 관리

이 주제에서는 Automation 360에서 AI Guardrails을 만드는 방법을 살펴봅니다. AI Guardrails은 AI의 책임 있는 사용을 보장하고 봇 실행 중에 민감한 정보를 보호하는 중요한 안전장치 역할을 합니다.

Control Room에서 가드레일을 생성하려면:

주: 필요한 라이선스를 가진 새로운 고객에 대해 사전 구성된 기본 가드레일이 자동으로 생성됩니다. 이 기본 가드레일은 폴더에 할당할 수 있으며, 이 주제의 지침을 따라 사용자 지정 가드레일을 만들 수 있습니다.

프로시저

  1. Control Room 환경에서 AI > AI Guardrails 로 이동하고 + 을 클릭하여 새 AI Guardrails을 만듭니다.
  2. 가드레일 생성 화면에서 다음 일반 설정을 구성하십시오.
    1. 이름: AI Guardrails을 쉽게 식별할 수 있는 이름을 제공합니다.
    2. 설명(선택 사항): AI Guardrails을 정의하는 간략한 설명을 추가합니다.
    3. 다음을 클릭하여 유해성 섹션으로 이동합니다.
  3. 유해성 규칙 섹션에서 유해한 콘텐츠에 대한 프롬프트 및 모델 응답을 스캔하기 위한 규칙을 구성합니다. 프롬프트와 모델 응답 모두에 대한 유해성 수준을 구성할 수 있는 옵션이 표시됩니다. 적절한 유해성 규칙을 선택하는 방법에 대한 자세한 정보는 AI의 유해성 내용을 참조하십시오.
  4. 데이터 마스킹 규칙 섹션에서 모든 Task Bots 및 AI Skills에 대한 데이터 마스킹 규칙을 설정합니다. 이 규칙을 구성하고 폴더에 할당하여 해당 폴더의 모든 봇이 자동으로 마스킹 동작을 따르도록 할 수 있습니다.
    1. 모든 카테고리 마스킹: 이 옵션을 선택하면 알려진 모든 민감한 데이터 범주 및 유형에 대한 데이터 마스킹이 활성화됩니다. 이 옵션을 선택하면 프롬프트와 모델 응답에서 감지된 모든 민감한 정보를 자동으로 마스킹하여 데이터 보호에 대한 포괄적인 접근 방식을 제공합니다.
    2. 데이터 처리를 변경할 카테고리와 유형을 선택합니다. 목록에 없는 카테고리와 유형은 기본적으로 마스킹됩니다.: 이 옵션을 선택하면 AI Guardrails 시스템이 민감한 데이터를 처리하는 방법을 사용자 정의할 수 있습니다. 데이터 마스킹을 위한 규칙을 생성할 수 있습니다. 규칙 생성에 대한 자세한 정보는 AI에서 데이터 마스킹 내용을 참조하십시오.
    3. 추가를 클릭합니다.
    4. 다음을 클릭하여 테스트로 이동합니다.
  5. 옵션: 가드레일 테스트: 샘플 프롬프트를 입력하여 구성된 설정으로 가드레일이 어떻게 작동하는지 테스트할 수 있습니다. 프롬프트를 입력하고 가드레일 테스트를 클릭하면, 설정된 유해성 수준에 따라 가드레일이 프롬프트의 허용 또는 차단 여부를 표시합니다. 응답에서 마스킹된 내용을 볼 수 있습니다.
  6. 다음을 클릭하여 폴더에 할당 섹션으로 이동합니다.
  7. 폴더에 할당 섹션에서 공용 작업 공간에 있는 폴더를 선택합니다. AI Guardrails은 선택한 폴더 내의 모든 Task Bots 및 AI Skills에 적용됩니다.
    주:
    1. 폴더당 단일 가드레일: 각 폴더에는 하나의 가드레일만 적용할 수 있습니다.
    2. 하위 폴더에 대한 상속: Bots 폴더 내의 상위 폴더에 가드레일이 할당된 경우, 해당 폴더의 모든 하위 폴더는 자동으로 동일한 가드레일을 상속받습니다.
    3. 상위 폴더 선택: AI Guardrails을 할당할 때 Bots 폴더 내의 상위 폴더만 선택할 수 있습니다. 하위 폴더에는 개별적으로 할당할 수 없습니다 AI Guardrails.
  8. 생성을 클릭하여 가드레일 생성을 완료합니다.

    시스템에서 가드레일이 생성되었다는 성공 메시지가 표시됩니다. AI Guardrails 화면으로 이동하면 AI Guardrails 목록이 표시됩니다.

    각 가드레일 옆에 있는 줄임표를 클릭하여 가드레일 보기, 가드레일 편집, 삭제할 수 있습니다. 또한, 표에는 각 가드레일의 할당된 폴더, 마지막 수정 날짜/시간, 수정한 사람이 표시됩니다.

    AI Guardrails 보기, 편집, 삭제

    작업 기능
    가드레일 보기

    가드레일 세부 정보는 가드레일의 요약 보기를 제공합니다.

    일반 설정은 이름, 설명, 데이터 마스킹 및 폴더에 할당 설정을 표시합니다.
    가드레일 편집 가드레일 세부 정보를 편집할 수 있습니다.
    편집 버튼은 자동화 관리자만 사용할 수 있습니다.
    주: AI STUDIO > AI 가드레일 보기 권한이 있는 전문 개발자 및 시민 개발자와 같은 사용자는 AI Guardrails의 세부 정보를 볼 수 있지만 편집할 수는 없습니다.
    삭제

    삭제를 클릭하면 확인을 요청하는 메시지가 표시된 후 가드레일이 삭제됩니다. 삭제를 확정하는 메시지가 표시됩니다.

    가드레일을 삭제하면 삭제된 가드레일을 참조하는 폴더의 모든 AI Skills 및 자동화에 AI Guardrails이 할당되지 않습니다.

    삭제 버튼은 자동화 관리자만 사용할 수 있습니다.
    주: AI STUDIO > AI 가드레일 보기 권한이 있는 전문 개발자 및 시민 개발자와 같은 사용자는 AI Guardrails의 세부 정보를 볼 수 있지만 삭제할 수는 없습니다.

다음 단계

생성 시, AI Guardrails은 지정된 폴더 내의 모든 자동화에 자동으로 적용됩니다. 이러한 자동화가 실행되면 AI Governance 대시보드는 적용된 데이터 마스킹 기술과 식별된 독성 수준에 대한 통찰력을 제공합니다. 대시보드 로그에는 AI Guardrails에 대한 열도 포함되어 있습니다.