생성형 AI의 데이터 보안 - FAQ

고객이 더 나은 스마트 자동화를 구축하여 생산성을 개선할 수 있도록 생성형 AI(GenAI) 기능을 도입했습니다. 고객은 비즈니스 유저용 Automation Co-Pilot 및 Document Automation 등의 기능을 통해 생성형 AI의 강력한 성능을 구현할 수 있습니다.

Automation Anywhere 는 LLM(대규모 언어 모델)에 대한 자체 라이선스를 사용하는 고객을 위한 명령 패키지를 지원합니다. 일부 Automation Anywhere 제품에는 타사 LLM이 내장되어 있습니다. 이 문서는 생성형 AI가 적용된 기능을 안전하게 사용하기 위한 데이터 및 보안 조치와 관련하여 자주 묻는 질문에 대한 답변을 제공하고자 합니다. 우선 이 문서에서 언급하는 두 가지 데이터 범주를 이해해야 합니다.

고객 데이터
자동화 성공 플랫폼과 같은 Automation Anywhere 호스팅 시스템을 통해 고객이 제출한 데이터를 말합니다. 이 데이터는 서비스 운영 및 제공에 필요합니다. 예를 들어, 사용자 텍스트 프롬프트는 고객 데이터로 취급됩니다.
사용 데이터
플랫폼 서비스 및 기능의 사용으로 인해 생성된 데이터를 말합니다. 이 데이터는 서비스 및 제품 성능을 개선하기 위해 패키지에서 수집된 표준 Automation Anywhere 이름 및 단계 순서와 같은 지표 및 기타 원격 측정을 위해 익명화되고 집계된 데이터입니다.
Automation Anywhere에서 고객이 자신의 LLM 구독을 어떻게 자동화할 수 있나요?
Automation Anywhere에서는 Automation Anywhere 제공 명령 패키지(예: 비즈니스 유저용 Automation Co-Pilot)을 사용할 때 고객이 선호하는 기본 모델에 대한 자체 라이선스를 가져올 수 있도록 지원합니다. 기본 모델은 Automation 360 Microsoft Azure, OpenAI 및 Google Vertex AI를 포함한 명령 패키지를 통해 OpenAI 네이티브 통합을 사용하여 액세스할 수 있습니다.

선택한 LLM과 통합할 수 있는지 확인하려면 제품 문서를 참조하십시오.

Automation Anywhere에서 제공하는 타사 AI 모델을 사용하는 제품은 무엇인가요?
Automation Anywhere에서는 다음 제품에서 타사 제공업체의 LLM을 사용합니다.
  • Document Automation
  • Automator AI
자세한 내용은 다음 항목을 참조하십시오.
Automation Anywhere에서 제공한 모델을 학습시키는 데 어떤 데이터가 사용되나요?
제품에 내장된 LLM을 학습시키는 데 고객 데이터는 사용되지 않습니다. Automation Anywhere의 Automation Anywhere 통제 환경에서 제공된 모델의 경우, 사용 데이터만 Automation Anywhere 제공 모델을 학습하는 데 사용됩니다. 이 데이터에는 고객 데이터가 포함되어 있지 않습니다.
고객 데이터가 LLM(대규모 언어 모델) 라이브러리 학습에 활용되지 않도록 하기 위해 어떤 조치가 마련되어 있나요?
고객 데이터는 모델 학습에 사용되지 않으며, 자동화 성공 플랫폼 내의 고객 테넌트 생산 환경 외부에 저장되지 않습니다.

타사 LLM이 모델 학습에 고객 데이터를 사용하지 않는지 확인하기 위해 공급업체 검토를 거쳤습니다.

무단 액세스 또는 데이터 유출을 방지하기 위해 어떤 조치가 마련되어 있나요?
고객 데이터가 외부에 저장되는 것을 방지하고 특정 제품에 가드레일, 삭제 또는 마스킹을 제공하는 등의 보안 조치를 취하고 있습니다. 자동화 성공 플랫폼은 미사용 및 전송 중인 데이터에 업계 표준 암호화를 사용하여 고객 데이터를 항상 보호합니다. 고객 데이터를 저장하는 해당 시스템은 SOC 1, SOC 2, ISO 27001:2022를 준수하는 안전한 운영을 보장하기 위해 연중무휴 24시간 모니터링하며 액세스가 통제됩니다. ISMS(정보 보안 관리 시스템), ISO 27017:2015: 클라우드 서비스에 대한 정보 보안 통제, ISO 27018:2019: 클라우드 환경 및 HITRUST의 PII(개인 식별 정보) 보호. 웹 애플리케이션 방화벽, 암호화(미사용 시 AES 256, 전송 시 TLS), RBAC에 대한 업계 표준 인증 및 권한 부여와 같은 적절한 보안 조치를 취했습니다. 트위터의 플랫폼 설계는 OWASP Top10 for LLMs에 명시된 바와 같이 위협에 대한 보호를 고려했습니다.
Automation Anywhere에서는 생성형 AI를 사용할 때 고객 데이터를 어떻게 보호하나요?
생성형 AI를 사용하는 제품은 기존 제품과 동일한 플랫폼에 존재하며, 다른 제품과 동일한 보안 인증(SOC1, SOC2, ISO, COBIT) 및 표준을 준수합니다. 클라우드 보안 전담 팀은 규정 준수를 보장하고 외부 전문 감사인의 보안 인증 감사를 지원합니다. 트위터의 보안 인증 및 보고서는 Compliance Portal에서 확인하실 수 있습니다.
고객이 생성형 AI 제품의 이점을 위해 활용할 수 있는 모범 사례는 무엇인가요?
다음은 생성형 AI가 사용된 제품 기능을 사용할 때 활용할 수 있는 몇 가지 모범 사례입니다.
데이터의 위치 및 사용 방식 파악하기
자체 LLM 공급자를 사용할 경우, 검증된 모델 제공업체와 데이터 및 데이터 사용에 대해 명확히 알고 있는 공급자만 사용하십시오. 공유 모델 학습에 민감한 데이터가 사용되지 않도록 하고, 데이터가 저장된 위치 및 액세스 권한이 있는 사람이 누구인지 파악하십시오.
모델 입력 및 출력에 가드레일 사용
생성형 AI 모델은 수신한 입력의 변화에 민감하므로, 자유 형식의 텍스트로 생성된 결과물에서 예측할 수 없는 오류가 발생할 수 있습니다. 사전 설계된 프롬프트와 출력 유효성 검사 단계를 통해 승인된 작업에 생성형 AI 모델을 사용하는 워크플로를 설계하면, 모델이 생산 환경에서도 높은 신뢰도를 가지고 작동하도록 보장할 수 있습니다. 요약과 같은 작업에 대해 명시적이고 제어되는 프롬프트를 설계하면, 사용자가 워크플로에서 사용할 모델의 품질이 개선되고 일관된 결과물을 얻을 수 있습니다. 사용자가 프롬프트에서 민감한 정보를 제출하지 않도록 하십시오.
생성된 콘텐츠에 대한 휴먼인더루프 유지
맞춤화된 고객 이메일이나 환자 요약과 같은 콘텐츠를 생성할 경우, 외부에 공유하기 전에 프로세스에 사람의 검증 단계를 거치는지 확인하는 것이 중요합니다. 특히 새로운 콘텐츠를 생성할 때 생성형 AI 모델이 생성된 결과물을 예측할 수 없는 경우가 있다는 점을 이해해야 합니다. 알림을 사용하여 검토가 필요한 사용자의 작업을 실시간으로 전달하고 전반적인 워크플로 상태를 추적하십시오.
코드 분석 사용
Automation Anywhere 코드 분석은 모범 사례 위반을 식별하기 위해 기본으로 제공되는 보안 기능입니다. 이 기능은 안전한 코딩 관행을 통해 자동화의 보안 및 규정 준수를 강화하고 코드 가독성과 품질을 개선하여, 모범 사례에서 벗어난 부분을 사전에 파악하고 시정하는 데 도움이 되는 코딩 모범 사례를 장려하고 시행하도록 고안되었습니다.