Data Privacy and Abuse Monitoring in Azure Cohere Service (Reranker)

Question

Data Privacy and Abuse Monitoring in Azure Cohere Service (Reranker)

eongIl S 265

I'm using Azure Cohere service (reranker) with two deployment options: serverless and managed compute. The documentation states that there's no input/output data storage, but I have the following questions:

1. Abuse Monitoring and ZDR Option

Cohere's native API service has abuse monitoring with a ZDR (Zero Data Retention) option to disable data storage
Does Azure Cohere service have abuse monitoring? I cannot find related documentation
If abuse monitoring exists, can I configure ZDR settings?
Please provide documentation links if available

2. Data Storage Clarification

Can you confirm that Azure Cohere service truly doesn't store any user data?
If there's no abuse monitoring, how does the serverless deployment handle filtering or content moderation without storing data?

3. Partner and Community Models Policy

Do all Partner and Community models in Azure (not just Cohere) follow the same data privacy policy?
Is the no-data-storage policy consistent across all Partner and Community models?

I need clarification on these data privacy aspects for compliance purposes.I'm using Azure Cohere service (reranker) with two deployment options: serverless and managed compute. The documentation states that there's no input/output data storage, but I have the following questions:

댓글 0개

질문 작성자가 수락한 답변

0 추가 답변

답변

Answer 1

안녕하세요 eongIl S,

마이크로소프트 Q&A에 오신 것을 환영합니다. 문의해 주셔서 감사합니다.

Azure Cohere 서비스의 데이터 개인 정보 보호, 악용 사례 모니터링, 그리고 제로 데이터 보존(ZDR)에 대해 몇 가지 중요한 질문을 제기하셨습니다. Azure에서 이러한 기능들이 어떻게 작동하는지 자세히 살펴보겠습니다.

1. Abuse Monitoring and ZDR Option

Azure Cohere 서비스는 Azure AI Foundry에 통합된 다른 모델과 마찬가지로 Microsoft의 책임 있는 AI 원칙과 콘텐츠 관리 정책을 따릅니다. Cohere의 네이티브 API에는 자체적인 악용 모니터링 파이프라인과 구성 가능한 ZDR(Zero Data Retention) 옵션이 있지만, Azure Cohere는 이를 위한 별도의 토글을 제공하지 않습니다. 대신, 악용 감지 및 안전 필터링은 데이터를 저장하지 않고 요청 처리 중에 인라인으로 처리됩니다.

Azure OpenAI 모델에는 실시간으로 작동하는 기본 제공 콘텐츠 안전 시스템이 포함되어 있으며, Azure Cohere도 유사한 접근 방식을 사용할 가능성이 높습니다. Cohere의 네이티브 API와 동일한 악용 모니터링 기능을 명시적으로 확인하는 별도의 문서는 없지만, Azure는 구독 외부의 고객 데이터를 보관하거나 로깅하지 않고 악용 탐지 및 필터링을 적용합니다.

또한 특정 기업 고객을 위해 인간의 검토를 비활성화하고 데이터 처리를 최소화하는 것을 목표로 하는 수정된 구성이 있습니다(Microsoft 승인 필요). 이는 일반적으로 매우 민감하거나 규제되는 환경에 적용됩니다.

이것을 참조하세요 남용 모니터링

Azure OpenAI 서비스에 대한 데이터, 개인 정보 및 보안

2. Data Storage Clarification

네, Azure Cohere 서비스는 서버리스 또는 관리형 컴퓨팅 배포 모드에서 사용자 데이터를 저장하지 않도록 설계되었습니다. 모든 입력 및 출력은 메모리 내에서 처리되며 요청이 완료되면 삭제됩니다. 데이터는 Azure 환경에서 로깅, 보존 또는 모델 학습에 사용되지 않습니다.

데이터가 저장되지 않더라도 Azure의 실시간 콘텐츠 관리 기능은 여전히 효과적으로 작동합니다. 악용 모니터링 및 필터링 시스템은 메모리 내 알고리즘을 사용하여 유해하거나 부적절한 콘텐츠를 즉시 감지합니다. 이러한 검사는 추론 중에 수행되며 기록 로그나 저장된 데이터 세트가 필요하지 않습니다.

즉, 데이터가 일시적이며 완벽하게 제어 가능하다는 확신을 가지고 민감한 사용 사례에 Azure Cohere를 안심하고 사용할 수 있습니다.

3. Partner and Community Models Policy

Cohere, Meta, Mistral 등을 포함하여 Azure AI Foundry에서 제공되는 모든 파트너 및 커뮤니티 모델은 동일한 엄격한 데이터 개인 정보 보호 및 보안 정책을 따릅니다. 즉, 다음과 같은 의미가 있습니다.

고객 입력 및 출력은 즉시 처리되는 시점을 초과하여 저장되지 않습니다.

데이터는 기반 모델을 재학습하거나 미세 조정하는 데 사용되지 않습니다.

처리는 전적으로 Azure의 안전한 경계 내에서 이루어집니다.

모델마다 구체적인 구현 세부 정보가 다를 수 있지만, 핵심적인 개인 정보 보호 약속은 모든 파트너 및 커뮤니티 제품에서 일관되게 유지됩니다. 규정 준수에 민감한 워크로드의 경우, 이러한 일관성을 통해 예측 가능하고 안전한 데이터 처리 방식이 보장됩니다.

이것을 참조하세요 Azure에서 직접 판매하는 Foundry Models.

이게 도움이 되었기를 바랍니다. 추가 질문이 있으면 꼭 말씀해 주세요.

이 답변이 귀하의 질문에 대한 답변이 되었다면, '답변 수락'을 클릭하고 '이 답변이 도움이 되었습니까?'에 '예'를 선택해 주시기 바랍니다.

감사합니다!