AI 가드레일 FAQ

AI 가드레일의 기능 및 작동에 대한 일반적인 질문은 이 FAQ를 참조합니다. 자동화 내에서 GenAI가 사용될 때 프롬프트와 모델 응답 내에 있는 민감한 데이터를 보호하도록 설계되었습니다.

AI 가드레일란 무엇입니까?

공개적으로 호스팅된 LLM과 생성형 AI 모델을 사용할 경우 기업에 상당한 개인정보보호 및 보안 위험이 초래될 수 있습니다. 지능형 토큰화 솔루션, AI 가드레일은 LLM과 공유되거나 LLM이 처리하는 민감한 데이터를 보호하는 동시에 맥락을 유지합니다. 이 기능은 데이터 보호를 보장하고 고객에게 최대한의 개인정보보호 및 보안을 제공하며, 콘텐츠의 유해성 수준을 모니터링하여 의도치 않은 결과로 브랜드 평판에 영향을 미치는 일이 없도록 방지하기 위해 설계되었습니다. AI 가드레일은 생성형 AI 자동화 내에서 민감한 데이터를 정확하게 관리할 수 있도록 다음과 같은 기능을 제공합니다.

  • 생성형 AI 모델과 통합된 자동화에서 민감한 데이터에 대한 AI 가드레일 정책을 관리합니다.
  • 프롬프트와 모델 응답 내에서 민감한 데이터를 관리하기 위한 규칙을 정의합니다.
  • PII, PHI, PCI와 같은 데이터 범주에 따라 데이터 처리 선호 사항을 지정합니다.
  • 실행 중 자동화에 대한 정책을 시행합니다.
  • 자동화 내에서 실행된 프롬프트에 대한 데이터 처리 및 독성 점수를 모니터링하고 감사합니다.
이 기능에 AI가 사용되나요?
네, 민감한 데이터를 식별할 수 있도록 잘 확립된 NER(개체명 인식) 모델을 활용합니다. 이는 AI의 특수한 형태입니다.
NER은 NLP(자연어 처리)의 하위 분야로, 텍스트 프롬프트 내에서 이름, 주소, 전화번호, 날짜와 같은 민감한 정보를 식별하고 위치를 파악합니다. 이를 통해 데이터를 마스킹하거나 수정하여 개인정보를 보호하고 데이터 보호 규정을 준수할 수 있습니다. 본질적으로, NER은 텍스트 데이터 세트 내에서 마스킹이 필요한 항목을 식별하는 초기 단계로 작동합니다.
AI 가드레일에 필요한 라이선스는 무엇인가요?
엔터프라이즈 플랫폼 라이선스와 소비 기반 라이선스인 AI 가드레일을 구매해야 합니다. 엔터프라이즈 플랫폼 라이선스에 대한 자세한 내용은 엔터프라이즈 플랫폼에서 확인하십시오.
AI 가드레일을 관리하려면 어떤 권한이 필요한가요?

AI 가드레일 관리 권한은 AI 가드레일 정책을 구성, 편집 또는 삭제하는 데 필요합니다. AI 가드레일 보기 권한을 통해 사용자는 구성된 AI 가드레일 정책을 볼 수 있습니다.

AI 가드레일을 온프레미스 배포에 사용할 수 있나요?

AI 가드레일은 현재 온프레미스 배포에 대해 지원되지 않습니다.

AI 가드레일은 내 민감한 데이터를 어떻게 보호하나요?

AI 가드레일은 자동화에 적용될 때 생성형 AI 명령어를 사용하여 실행되는 각 프롬프트를 가로챕니다. 이 서비스는 프롬프트에서 민감한 데이터를 스캔하고 이를 토큰화된 값으로 대체하여 비식별화합니다. 이렇게 토큰화된 프롬프트는 LLM에 전송됩니다. 응답을 받으면 서비스는 이를 다시 스캔하고 원래 값으로 재구성합니다. 이는 기본 마스킹 동작입니다. AI 가드레일은 또한 가드레일 정책을 통해 구성 가능한 비가역적 익명화도 지원합니다.

민감한 데이터 보호와 관련된 로그는 어디에서 볼 수 있나요?

활동 추적은 AI 거버넌스 프롬프트 로그와 이벤트 로그에서 확인할 수 있습니다. AI 프롬프트 로그의 세부 보기를 사용하여 마스킹된 콘텐츠와 유해성 점수가 포함된 프롬프트와 응답을 확인합니다.

민감한 데이터 매핑은 얼마 동안 저장되나요?

민감한 데이터 매핑은 Automation 360 클라우드 내의 안전한 저장소에 저장되며, 정기적으로 교체되는 AES-256 키로 암호화되어 FIPS 197을 준수합니다. 매핑은 고객의 프로덕션 테넌트 환경 내 데이터베이스에서 30일 동안 안전하게 저장되며, 이후 안전하게 삭제됩니다. 30일 후에 각 트랜잭션에 대해 새로운 매핑이 생성됩니다.

저장된 민감한 데이터에는 어떤 보안 통제가 적용되나요?

민감한 데이터 매핑은 업계 표준 암호화와 보안 통제, 즉 제한된 연결성을 통한 네트워크 격리, 최소 권한 원칙에 따라 승인된 사용자로만 접근 제한, 저장 및 전송 중인 암호화를 사용하여 보호됩니다.

AI 가드레일이 마스킹/마스킹 해제 중에 민감한 데이터를 타사 LLM 또는 클라우드로 전송하나요?

아니요, 모든 민감한 데이터는 Automation 360 클라우드 테넌트 내에서 처리됩니다. AI 가드레일은 마스킹 또는 마스킹 해제를 위해 타사 LLM이나 외부 클라우드 서비스와 통합되지 않습니다.