AI 가드레일

AI 가드레일은 보안 및 준수 정책을 시행하는 인라인 차단 메커니즘을 제공하여 민감한 데이터를 보호하고 윤리적인 AI 관행을 보장합니다.

스마트 토큰화를 사용하여 프롬프트 내에서 사용되는 민감한 데이터를 식별하고 이를 토큰화된 값으로 대체합니다. 마찬가지로, 모델 응답을 가로채어 토큰화된 값을 재구성하고 대체함으로써 응답의 관련성을 보장합니다. 또한, 이는 프롬프트와 모델 응답의 유해성 수준을 모니터링하여 유해성 수준을 감사합니다.

Automation 360에서 AI 가드레일을 구성할 때 데이터 마스킹 규칙을 설정하고 유해성 모니터링을 이해하는 것이 중요합니다. 이러한 기능은 시스템이 다양한 유형의 민감한 데이터를 처리하고 LLM과의 상호작용에서 사용되는 언어의 적절성을 평가하여 봇 실행 중 발생할 수 있는 잠재적인 문제를 방지하는 방법을 정의합니다. 이 주제에서는 AI 가드레일의 구현과 기능에 대한 인사이트를 제공하고, 데이터 보안과 책임 있는 AI 관행을 촉진하는 데 있어서 그들이 하는 역할을 강조합니다.


AI 가드레일

AI 가드레일의 핵심은 데이터 마스킹 기능으로, 요청을 LLM(대규모 언어 모델)으로 전송하기 전에 봇 프롬프트 내 민감한 데이터 요소를 식별하고 토큰화된 값으로 대체하여 작동합니다. 이 프로세스는 정확한 응답을 생성하는 데 필요한 맥락을 보존하는 동시에 LLM이 민감한 정보를 직접 처리하는 것을 방지합니다. 또한, 유해성 모니터링 기능은 LLM에 전송된 프롬프트와 잠재적으로 유해한 언어에 대한 LLM의 응답을 모니터링합니다.

이점

데이터 마스킹
데이터 마스킹은 알려진 민감한 데이터를 식별하고 이를 가상의 값으로 대체하는 난독화 기술입니다.
마스킹을 위한 민감한 데이터의 범주

강력한 데이터 보호를 보장하기 위해서는 민감한 정보를 효과적으로 식별하고 마스킹하는 것이 중요합니다. AI 가드레일은 다음의 중요한 카테고리에 맞춰 정밀한 데이터 마스킹 규칙을 설정하는 데 도움을 줍니다. PII(개인 식별 정보), PHI(보호된 건강 정보), PCI(지불 카드 산업 데이터).

이러한 범주를 사용하면 특정 유형의 민감한 데이터에 대한 일관된 마스킹 동작을 구성하고 적용할 수 있습니다. 예를 들어, 모든 PCI 데이터를 비가역적으로 익명화하여 어떤 형태로든 저장되거나 사용되는 것을 방지하는 동시에, PII 데이터에 대한 가역적 마스킹을 선택하여 기능을 유지할 수 있습니다.

이러한 전략적 접근 방식을 채택함으로써 조직은 민감한 데이터를 보호하고, 규정을 준수하며, 잠재적 위험을 완화할 수 있습니다.

마스킹 동작 구성

Automation 360 AI 가드레일 내에서 각 데이터 범주가 처리되는 방식을 유연하게 결정할 수 있습니다.

  • 마스킹: 민감한 데이터가 토큰으로 일시적으로 대체되는 가역적인 프로세스입니다. 원본 데이터는 사용자에게 제공되기 전에 LLM의 응답에서 검색되어 복원됩니다.
  • 익명화: 민감한 데이터를 토큰으로 영구적으로 대체하는 불가역적인 프로세스입니다. 원본 데이터는 최종 응답을 재구성하는 데 저장되거나 사용되지 않으므로, 엄격한 데이터 보존 금지가 있는 시나리오에 적합합니다.
  • 허용: 민감한 데이터에 액세스해야 하는 특정 사용 사례의 경우, 데이터를 일반 텍스트로 LLM에 전송하도록 선택할 수 있습니다.

기본적으로 시스템은 특정 동작이 선택되지 않은 경우 마스킹을 적용하여 모든 민감한 데이터에 대한 기본 수준의 보호를 보장합니다. 이 규칙을 구성하고 지정된 폴더에 할당하여, 할당된 규칙이 있는 폴더 내에서 운영되는 봇이 정의된 마스킹 동작을 자동으로 구현하도록 할 수 있습니다.

유해성 모니터링

AI 가드레일 LLM에 전송된 프롬프트와 LLM에서 생성된 응답에 대해 잠재적인 유해성 언어를 분석하여 낮음, 보통, 높음의 유해성으로 분류합니다. 현재는 \'관찰 전용\' 모드이기는 하지만, 이 기능을 사용하면 잠재적으로 문제가 될 수 있는 언어 사용을 식별할 수 있습니다. 향후 출시 버전에는 유해성 수준에 따라 프롬프트를 차단하는 기능이 포함될 예정입니다.

모니터링 및 로깅

Automation 360은 데이터 마스킹 프로세스의 세부 정보를 포함하여 모든 가드레일 작업을 기록합니다. 이 포괄적인 로깅은 감사 추적을 제공하여 관리자가 AI 가드레일의 기능을 모니터링하고 데이터 보호 정책 준수를 확인할 수 있도록 합니다.

필요한 라이선스

AI 가드레일 서비스를 활성화하고 사용하려면, 엔터프라이즈 플랫폼 라이선스와 함께 소비 SKU - AI 가드레일(LLM 프롬프트 수)을 구매해야 합니다. 엔터프라이즈 플랫폼을 참조하십시오.
주: 구매한 볼륨의 AI 가드레일 크레딧은 자동화에서 프롬프트를 실행하거나 AI Skill: 공용 워크스페이스에서 실행할 때, 또는 비공개 워크스페이스 내 AI Skill: 편집기에서 테스트할 때 소모됩니다.