Microsoft Foundry 모델 카탈로그 벡터라이저(미리 보기)

메모

Azure AI 검색 Azure 포털, REST API 및 Azure SDK 통해 사용할 수 있습니다. 또한 엔터프라이즈 콘텐츠를 Microsoft Foundry 포털의 에이전트에 대해 재사용 가능한 사용 권한 인식 기술 자료로 변환하는 관리되는 기술 계층인 Foundry IQ를 뒷받침합니다.

중요

기능, 기능 또는 표시된 속성(미리 보기)은 서비스 수준 계약에 포함되지 않으며 프로덕션 워크로드에는 권장되지 않으며 일반적으로 사용 가능해지기 전에 변경되거나 제한될 수 있습니다. Azure AI 검색 미리 보기 용어는 독립 실행형 기능이든 일반 공급 기능의 일부이든 관계없이 모든 미리 보기 기능에 적용됩니다.

Microsoft Foundry 모델 카탈로그 벡터라이저(미리 보기)는 Foundry 모델 카탈로그 또는 AML(Azure Machine Learning) 엔드포인트에서 배포된 포함 모델에 연결합니다. 데이터는 모델이 배포된 지오(Geo )에서 처리됩니다.

통합 벡터화를 사용하여 벡터 배열을 만드는 경우 기술 세트에는 벡터라이저에 지정된 동일한 모델을 가리키는 AML 기술이 포함되어야 합니다.

필수 구성 요소

벡터라이저 매개 변수

매개변수는 대소문자를 구분합니다. 사용하는 매개 변수는 모델 공급자에 필요한 인증(있는 경우)에 따라 달라집니다.

매개 변수 이름 설명
uri (키 인증에 필요) Microsoft Foundry 모델 카탈로그의 서버리스 배포 대상 URI 또는 AML 온라인 끝점의 스코어링 URI입니다. HTTPS URI 스키마만 허용됩니다.
key ( 키 인증에 필요) 모델 공급자의 API 키입니다.
resourceId ( 토큰 인증에 필요) 모델 공급자의 Azure Resource Manager 리소스 ID입니다. AML 온라인 엔드포인트의 경우 subscriptions/{guid}/resourceGroups/{resource-group-name}/Microsoft.MachineLearningServices/workspaces/{workspace-name}/onlineendpoints/{endpoint_name} 형식을 사용합니다.
modelName 지정된 uri에 배포된 Microsoft Foundry 모델 카탈로그의 임베딩 모델 이름입니다. 지원되는 모델(서버리스 배포만 해당)은 다음과 같습니다.

  • Cohere-embed-v3-english
  • Cohere-embed-v3-multilingual
  • Cohere-embed-v4
region ( 토큰 인증의 경우 선택 사항) 모델 공급자가 배포되는 지역입니다. 지역이 검색 서비스의 지역과 다른 경우 필요합니다.
timeout (선택 사항) API를 호출하는 HTTP 클라이언트에 대한 시간 제한입니다. XSD "dayTimeDuration" 값( ISO 8601 기간 값의 제한된 하위 집합)으로 서식을 지정해야 합니다. 예를 들어 60초 동안 PT60S가 필요합니다. 설정하지 않으면 기본값인 30초가 선택됩니다. 제한 시간은 최대 230초, 최소 1초로 설정할 수 있습니다.

사용할 인증 매개 변수

Microsoft Foundry 모델 카탈로그 벡터라이저는 두 가지 인증 옵션을 제공합니다.

  • 키 기반 인증. 정적 키를 제공하여 벡터라이저의 점수 매기기 요청을 인증합니다. 이 연결에 uri 대한 매개 변수와 key 매개 변수를 설정합니다.

  • 토큰 기반 인증입니다. Foundry 허브 기반 프로젝트 또는 AML 온라인 엔드포인트는 토큰 기반 인증을 사용하여 배포됩니다. Azure AI 검색 서비스에는 관리 ID 및 모델 공급자에 대한 역할 할당이 있어야 합니다. 그런 다음, 벡터라이저는 검색 서비스 ID를 사용하여 정적 키 없이 모델 공급자에 대해 인증합니다. 검색 서비스 ID에는 소유자 또는 기여자 역할이 있어야 합니다. 매개 변수를 resourceId 설정하고 검색 서비스가 모델 공급자와 다른 지역에 있는 경우 매개 변수를 region 설정합니다.

지원되는 벡터 쿼리 형식

Microsoft Foundry 모델 카탈로그 벡터라이저에서 지원하는 벡터 쿼리 형식은 구성된 modelName 따라 달라집니다.

임베딩 모델 text 쿼리를 지원합니다 imageUrl 쿼리를 지원합니다 imageBinary 쿼리를 지원합니다
Cohere-embed-v3-english X X
Cohere-embed-v3-multilingual X X
Cohere-embed-v4 X X

예상 필드 크기

Microsoft Foundry 모델 카탈로그 벡터라이저로 구성된 벡터 필드의 예상 필드 차원은 구성된 modelName 따라 달라집니다.

modelName 예상 크기
Cohere-embed-v3-english 1024
Cohere-embed-v3-multilingual 1024
Cohere-embed-v4 256–1536

샘플 정의

Foundry 모델 카탈로그에서 제안된 모델 이름은 기본 모델과 임의의 세 글자 접미사로 구성됩니다. 모델 이름은 이 예제에 표시된 이름과 다릅니다.

"vectorizers": [
    {
        "name": "my-model-catalog-vectorizer",
        "kind": "aml",
        "amlParameters": {
            "uri": "https://Cohere-embed-v3-multilingual-hin.eastus.models.ai.azure.com",
            "key": "aaaaaaaa-0b0b-1c1c-2d2d-333333333333",
            "timeout": "PT60S",
            "modelName": "Cohere-embed-v3-multilingual-hin",
            "resourceId": null,
            "region": null,
        },
    }
]

참고 사항

  • Last updated on