AI Agent Studio FAQ
- 최종 업데이트2024/12/16
AI Agent Studio FAQ
모델 연결, AI Skill: 만들기, AI Skill: 패키지를 사용한 자동화 실행, 보안 및 거버넌스를 위한 자동화 내 모델 상호작용 데이터 추적 및 모니터링의 동작 및 기능에 대한 일반적인 질문은 이 FAQ를 참조하십시오.
일반 FAQ
- 지원되는 기본 모델에는 어떤 것이 있나요?
- 현재 AI 도구는 Amazon Bedrock, Google Vertex AI, Azure OpenAI, OpenAI 등과 같은 하이퍼스케일러 공급업체의 표준, 미세 조정됨, RAG 기본 모델을 지원합니다. 각 공급업체별로 지원되는 표준 및 미세 조정됨 모델은 다음과 같습니다.
- Amazon Bedrock : anthropic.claude-v2:1, amazon.titan-text-express-v1, amazon.titan-text-lite-v1, Anthropic Claude 3.5 Sonnet.
- Google Vertex AI : text-unicorn, text-bison, text-bison-32k, gemini-1.0-pro, Gemini 1.5 Flash, Anthropic Claude 3.5 Sonnet.
- Azure OpenAI : gpt-4, gpt-4-32k, gpt-35-turbo, gpt-35-turbo-16k, GPT-4o, GPT-4o mini.
- OpenAI : gpt-4, gpt-4-turbo-preview, gpt-3.5-turbo, gpt-3.5-turbo-16k, GPT-4o, GPT-4o mini.
각 공급업체별로 지원되는 RAG 모델은 다음과 같습니다.- Amazon Bedrock : Amazon Titan Text Premier, Anthropic Claude v2.1, Anthropic Claude Instant v1, Anthropic Claude v2.0, Anthropic Claude 3 Sonnet v1 및 Anthropic Claude 3 Haiku v1 .
- Google Vertex AI : Gemini 1.0 Pro 1, Gemini 1.0 Pro 2 및 Gemini 1.5 Flash 1.
중요사항: AI Agent Studio에서 외부 생성형 AI 모델에 연결하려면 해당 모델 제공자로부터 API 키, 액세스 키 또는 토큰과 같은 BYOL(자체 라이선스)을 가져와야 합니다. - Grounded 모델 연결이란 무엇인가요?
- 이제 Amazon Bedrock 및 Google Vertex AI RAG 기능을 사용하여 모델 연결을 만드는 옵션을 제공합니다. 기본 기술 자료에 기반함 기능을 사용하여 데이터 저장소에 기반함 및 모델 연결에서 참조된 정확하고 상황에 맞는 정보를 생성하기 위해 RAG 또는 Amazon 기술 자료 Google 데이터 소스을 만드십시오.
- 미세 조정됨 모델 연결이란 무엇인가요?
- 지원되는 기본 모델을 테스트 및 미세 조정을 통해 사용자 정의하고 생성된 AI Skill:에 연결하여 사용할 수 있도록 하면 미세 조정됨 모델 연결을 생성할 수 있습니다.
- Automation Anywhere는 AI Agent Studio 내에서 사용할하기 위한 기본 모델은 제공하나요?
- 아니요, AI Agent Studio는 고객에게 Azure OpenAI 내에서 이러한 모델의 고객 인스턴스에 대한 연결 세부 정보를 제공하여 OpenAI, Amazon Bedrock, Google Vertex AI, 모델 연결 등의 공급업체의 자체 기본 모델에 연결할 수 있는 기능을 제공합니다. 모델 연결 생성 및 관리 항목을 참조하십시오.
- AI Agent Studio는 고객이 다른 하이퍼스케일러의 맞춤형 모델이나 개인 고객 인프라에 호스팅된 모델에 연결할 수 있도록 허용합니까?
- 현재 AI Agent Studio는 모델 연결을 통해 제공되는 기본 모델 커넥터만 지원합니다. 하지만 향후 릴리스에서는 사용자 정의 모델 연결을 지원할 계획입니다.
- AI 도구에는 어떤 라이선스가 필요한가요?
- AI 도구는 AI Agent Studio 제품군에 포함되어 있으며, 엔터프라이즈 플랫폼 라이선스의 구입 시 사용할 수 있습니다. 엔터프라이즈 플랫폼 라이선스에 대한 자세한 내용은 엔터프라이즈 플랫폼 항목을 참조하십시오.
- AI Agent Studio의 일반적인 사용 가능 여부는 어떻게 되나요?
- AI Agent Studio는 Automation 360 v.33 릴리스에 대해 Automation 360 클라우드에서만 사용할 수 있습니다.
- 데이터 로깅을 활성화하면 어떤 유형의 데이터가 얼마나 오랫동안 저장되나요?
- 데이터 로깅이 활성화되면 프롬프트, 모델 응답 및 매개변수를 포함한 모든 모델 상호 작용이 자동화 또는 프롬프트 실행 중에 저장됩니다. 이 데이터는 사용자의 환경 내에 저장되며 자동화에서 AI 사용에 대한 자세한 인사이트를 제공하는 데 사용됩니다.
- 새로운 AI 거버넌스 코드 분석 규칙에 지원되는 하이퍼스케일러 공급업체 모델은 무엇입니까?
- 각 하이퍼스케일러 공급업체별로 지원되는 모델 목록은 다음과 같습니다.
- Amazon Bedrock : Jurassic-2 Mid, Jurassic-2 Ulta, Claude Instant v1.2, Claude v1.3, Claude v2.1(다른 지원 버전), Titan Text G1 - Lite 및 Titan Text G1 - Express(다른 지원 버전).
- Google Vertex AI : chat-bison(최신), chat-bison-32k(최신), chat-bison-32k@002, chat-bison@001, chat-bison@002, codechat-bison, codechat-bison-32k, codechat-bison-32k@002, codechat-bison@001, codechat-bison@002(다른 지원 버전), text-bison(최신), text-bison-32k(최신), text-bison-32k@002, text-bison@001, text-bison@002, text-unicorn@001, code-bison(최신), code-bison-32k@002, code-bison@001, code-bison@002, code-gecko@001, code-gecko@002, code-gecko(다른 지원 버전) 및 Gemini Pro.
- OpenAI : gpt-3.5-turbo(기본값), gpt-3.5-turbo-16k, gpt-4, gpt-4-32k(다른 지원 버전), text-davinci-003, text-davinci-002, davinci, text-curie-001, curie, text-babbage-001, babbage, text-ada-001 및 사용자 정의 모델.
- 프롬프트 쿼리 및 프롬프트 튜닝을 위한 데이터가 AI 거버넌스에 저장된 클라우드 로그에 표시되나요?
- AI 거버넌스 로그는 자동화가 실행될 때 모델 상호 작용을 캡처합니다. 하이퍼스케일러 모델과 교환된 프롬프트 및 모델 응답을 감사할 수 있습니다.
- 프롬프트를 처리하고 출력을 생성하는 타사 모델로 전송되는 데이터는 어떻게 되나요?
- 감사 로그은(는) 하이퍼스케일러 모델에 전송된 프롬프트와 모델 응답의 세부 정보를 제공합니다. Automation Anywhere는 구독한 서드파티 모델이나 그에 의해 저장되거나 처리된 데이터에 접근할 수 없습니다. 데이터가 처리되고 저장되는 방법에 대한 자세한 내용은 관련 문서를 참조하는 것이 좋습니다.
- Azure OpenAI와 같은 타사 업체가 내 데이터에 액세스하고 사용할 수 있나요?
- Automation Anywhere에서는 사용자가 해당 모델에 쿼리를 보낼 때 사용자가 구독하는 타사 모델에서 사용하거나 저장하는 데이터를 제어할 수 없습니다. 데이터 처리 및 저장에 대한 자세한 내용은 관련 문서를 참조하는 것이 좋습니다.
- 저장된 데이터에 대한 데이터 보존 정책은 무엇인가요?
- 당사는 감사 로그에 대한 일관된 데이터 보존 정책을 준수합니다. 다음에서 정책을 검토할 수 있습니다: Automation 360 FAQ.
- SIEM 통합을 사용하여 저장된 로그를 전달할 수 있나요?
- 예, 저장된 데이터를 Control Room에 구성된 통합 SIEM 시스템으로 전달할 수 있습니다.
- 저장된 프롬프트를 보호하기 위해 어떤 보안 조치가 구현되나요?
- 기록된 모든 데이터는 고객의 생산 환경 내에 저장되며, 보호된 경계를 벗어나지 않습니다. 이 데이터는 자동화 내에서 AI 사용에 대한 인사이트를 제공하기 위한 분석에만 사용됩니다. 프롬프트와 모델 응답은 업계 표준 알고리즘을 사용하여 암호화되며 로그 데이터는 TLS를 통해 안전하게 전송됩니다. 프롬프트 및 응답을 보기 위한 액세스는 역할 기반 액세스 제어를 통해 제어됩니다.
- 텍스트 프롬프트와 모델 응답을 내보내거나 인쇄할 수 있나요?
- 개인정보 보호를 위해 프롬프트 및 모델 응답은 Control Room에서 내보내거나 인쇄할 수 없습니다. 그러나 SIEM 통합을 통해 SIEM으로 전달할 수는 있습니다.
- 데이터 로깅을 위해 추가 라이선스가 필요한가요?
- 데이터 로깅 및 AI 거버넌스는 엔터프라이즈 플랫폼 라이선스의 일부이며 AI Agent Studio를 통해 사용할 수 있습니다.
엔터프라이즈 플랫폼 라이선스에 대한 자세한 내용은 엔터프라이즈 플랫폼 항목을 참조하십시오.
알려진 제품 동작
- Automation 360 v.34 릴리스에서, AI 거버넌스 감사 로그는 API 태스크에 대해 지원되지 않습니다. 이는 실시간 모드(유인 자동화)로 실행되는 API 태스크에 고유합니다.
- 사용자는 을 편집하려면 설정 보기AI Skill: 권한이 있어야 합니다. 그렇지 않으면 오류 메시지가 표시되고 사용자는 AI Skill:을 편집할 수 없습니다.
- AI Skill: 편집기에서, 연관된 모델 연결, 프롬프트 텍스트 또는 정의된 프롬프트 입력 없이 기존 AI 기술의 제목을 업데이트하려고 하면, 시스템에서 유효성 검사 실패를 나타내는 오류 메시지가 표시되고 업데이트가 저장되지 않습니다. AI 기술은 업데이트를 받고 변경 사항을 저장해야 합니다.
- 일부 모델은 토큰 소비 데이터를 반환하지 않으므로 AI 거버넌스 로그는 로그 세부 정보 필드에 \'0\' 값을 표시합니다.
- 모델 연결에 연결된 AI Skill:을 삭제하면 해당 Task Bot을 사용하도록 구성된 AI Skill:을 실행하는 동안 오류가 발생합니다.
- 모델 연결을 삭제하고 같은 이름의 새 AI Skill:을 만들면 해당 템플릿은 새 버전을 참조하게 됩니다. 그러나 기본 LLM 모델이 다르면 결과가 달라질 수 있습니다.
-
Microsoft Azure 연결의 경우:
-
모델 연결 구성을 위해서는 사용자가 Microsoft Azure 포털의 배포 이름인 배포 ID를 제공해야 합니다. 이 배포는 특정 기본 모델에 매핑되므로 사용자는 모델 연결 배포 모델에 매핑되는 올바른 Microsoft Azure 모델을 선택해야 합니다.주: 이 값이 올바르게 선택되지 않으면 경고 메시지가 표시됩니다.
- 사용자는 기존 모델 연결의 연결 세부 정보를 변경하면 잘못된 입력 세부 정보가 저장되며 연결 테스트 기능이 자동으로 트리거되지 않는다는 점에 유의해야 합니다. 이로 인해 AI Skill:, Task Bots, 또는 API 태스크가 모델 연결을 사용하는 동안 실행 중에 훼손될 수 있습니다. 모델 연결을 변경하는 경우 이 Bot을 사용하는 모델 연결이 자동화 실행 중에 실패하지 않도록 업데이트된 연결을 테스트해야 합니다.
-
모델 연결 구성을 위해서는 사용자가 Microsoft Azure 포털의 배포 이름인 배포 ID를 제공해야 합니다. 이 배포는 특정 기본 모델에 매핑되므로 사용자는 모델 연결 배포 모델에 매핑되는 올바른 Microsoft Azure 모델을 선택해야 합니다.
- AI 거버넌스의 경우 감사 로그를 생성하기 위해 Bot 에이전트 22.60.10 이상에 대한 종속성이 있습니다. Bot 에이전트가 22.60.10보다 낮은 경우, 모든 모델 상호작용에 대한 감사 로그가 Control Room에 성공적으로 기록되도록 호환되는 Bot 에이전트 버전을 설치하라는 알림이 표시됩니다. 관리자인 경우, Control Room에 등록된 기기 중 권장 Bot 에이전트 버전보다 낮은 기기가 있는 경우 알림을 받게 됩니다.
- 자동화 실행 중에 런타임 오류가 발생하는 경우 시스템에 표시되는 오류 메시지인 ‘AI 거버넌스 감사 로그를 게시할 수 없음\'을 기준으로 하십시오. Bot 에이전트가 22.60.10 이상인지 확인하십시오. Error: <java.lang.NoSuchMethodError error message>\'가 표시되면 사용 가능한 최신 Bot 에이전트 버전으로 업데이트하는 것이 좋습니다.
- 감사 로그 데이터를 볼 수 없는 경우에는 먼저 관련 사용자 정의 역할 권한이 있는지 확인하십시오. 필요한 권한이 있는 경우 사용 가능한 최신 Bot 에이전트 버전을 사용하고 있는지 확인하십시오. Bot 에이전트 22.60.10 및 이후 버전을 사용하는 것을 권장합니다.
- 감사 로그 및 Bot 실행 기능이 원활하게 작동하려면 호환되는 Control Room 및 Bot 에이전트 버전을 사용하는 것이 좋습니다. 버전 호환성 매트릭스를 보려면 AI 거버넌스를 활성화하는 역할 및 권한 할당 항목을 참조하십시오.
- ACC(Automation Command Center)는 5분마다 데이터를 업데이트하고 새로 고칩니다. 그러나 Control Room 새로 고침을 완료한 후 집계된 데이터가 롤업되는 데 15~20분이 소요됩니다.