векторизатор Azure OpenAI

Векторизатор Azure OpenAI подключается к модели встраивания, развернутой в ресурсе Azure OpenAI в Foundry Models или проекте Microsoft Foundry, для генерации встраиваний во время запроса. Данные обрабатываются в Гео, где развернута ваша модель.

Хотя векторизаторы используются во время запроса, вы указываете их в определениях индекса и ссылаетесь на них на поля векторов через профиль вектора. Дополнительные сведения см. в разделе "Настройка векторизатора" в индексе поиска.

Векторизатор Azure OpenAI называется AzureOpenAIVectorizer в REST API. Используйте последнюю стабильную версию Indexes — создание (REST API) или пакет Azure SDK, предоставляющий эту функцию.

Необходимые условия

• Ресурс Azure OpenAI в модели Foundry Models или проект Foundry.

  • Ресурс OpenAI Azure должен иметь поддомен custom, например https://<resource-name>.openai.azure.com. Эту конечную точку можно найти на странице Keys and Endpoint на портале Azure и использовать его для свойства resourceUri в этом навыке.

  • Родительский ресурс проекта Foundry предоставляет доступ к нескольким конечным точкам, включая https://<resource-name>.openai.azure.com, https://<resource-name>.services.ai.azure.comи https://<resource-name>.cognitiveservices.azure.com. Эти конечные точки можно найти на странице Ключи и Конечные точки на портале Azure и использовать любую из них для свойства resourceUri в этом навыке.

• Модель встраивания Azure OpenAI, развернутая на вашем ресурсе или проекте. Поддерживаемые модели см. в следующем разделе.

Параметры векторизатора

Параметры чувствительны к регистру.

Поддерживаемые типы векторных запросов

Векторизатор openAI Azure поддерживает только запросы векторов text.

Ожидаемые размеры поля

Ожидаемые размеры поля, настроенного с векторизатором Azure OpenAI, зависят от параметров modelName.

Пример определения

"vectorizers": [
    {
        "name": "my-openai-vectorizer",
        "kind": "azureOpenAI",
        "azureOpenAIParameters": {
            "resourceUri": "https://my-fake-azure-openai-resource.openai.azure.com",
            "apiKey": "0000000000000000000000000000000000000",
            "deploymentId": "my-ada-002-deployment",
            "authIdentity": null,
            "modelName": "text-embedding-ada-002",
        },
    }
]

Оптимальные методы повышения производительности

Ниже приведены некоторые рекомендации, которые необходимо учитывать при использовании этого векторизатора:

• Если вы достигли ограничения Azure OpenAI TPM (токены в минуту), рассмотрите соответствующие указания в quota limits advisory, чтобы принять необходимые меры. Дополнительные сведения о мониторинге производительности вашего экземпляра Azure OpenAI см. в документации по Azure OpenAI.

• Развертывание модели Azure OpenAI для внедрения, используемое для этой векторизации, должно быть предпочтительно отдельно от развертывания, используемого для других вариантов использования, включая навык embedding. Это помогает каждому развертыванию адаптироваться к конкретному варианту использования, что приводит к оптимизированной производительности и облегченной идентификации трафика, исходящего от индексатора и вызовов встроения индекса.

• Экземпляр OpenAI Azure должен находиться в том же регионе или по крайней мере географически близко к региону, где размещена служба поиска ИИ. Это снижает задержку и повышает скорость передачи данных между службами.

• Чтобы избежать частых кодов ошибок 429, рассмотрите возможность реализации балансировки нагрузки с помощью управления API путем реализации шлюза балансировки нагрузки перед несколькими развертываниями моделей Azure OpenAI.

• Если у вас лимит Azure OpenAI TPM (Tokens per minute) выше стандартного, как указано в документации по квотам и лимитам, откройте запрос в службу поддержки с командой Поиск с использованием ИИ Azure, для соответствующей корректировки. Это помогает процессу индексирования не замедляться за счет задокументированного ограничения доверенного платформенного модуля по умолчанию, если у вас есть более высокие ограничения.

Вопросы безопасности для проверки подлинности управляемых удостоверений

Когда векторизатор OpenAI Azure использует проверку подлинности управляемого удостоверения, Поиск с использованием ИИ Azure получает маркер доступа Microsoft Entra для аудитории Foundry Tools (https://cognitiveservices.azure.com) и включает его в запросы, отправленные в конечную точку, указанную в resourceUriней. Проверка подлинности управляемого удостоверения применяется, если задано authIdentityили когда apiKey они пусты, authIdentity а служба использует назначаемое системой удостоверение.

Ожидается, что конечная точка, на которую resourceUri ссылается ваш собственный Azure ресурс OpenAI или Foundry Tools. Поддерживаемые домены:

• openai.azure.com
• cognitiveservices.azure.com
• services.ai.azure.com

также поддерживаются конечные точки Azure API Management (*.azure-api.netAPIM). Так как имя узла APIM не может быть проверено только из его имени, Поиск с использованием ИИ Azure проверяет эти конечные точки с проверкой динамического подключения во время настройки, а не по сопоставлению домена. Вы несете ответственность за настройку и поддержание связи между конечной точкой APIM и ресурс Azure ом OpenAI или Foundry Tools за ней.

Recommended security practices (Рекомендации по безопасности)

Чтобы обеспечить безопасное развертывание, выполните следующие действия.

• Задайте resourceUri только конечные точки, которыми вы владеете и доверяете. Предпочитайте домены средств Foundry, перечисленные ранее. Если вы используете конечную точку APIM, убедитесь, что он выполняет внешний ресурс перед включением управляемого удостоверения. Доверенное имя узла не является подтверждением владения.
• Примените принцип наименьших привилегий к управляемому удостоверению, используемому службой поиска. Для Azure векторизатора OpenAI требуется только роль пользователя OpenAI Cognitive Services в целевом ресурсе. Избегайте предоставления более широких ролей.
• Используйте периметр безопасности сети (NSP) и частные конечные точки или интеграцию виртуальной сети, чтобы ограничить доступ к конечным точкам службы поиска и источникам, из которых целевой ресурс принимает запросы.
• Если вы используете конечную точку APIM, убедитесь, что шлюз проверяет входящие запросы и перенаправляет их только в предназначенную серверную часть. Также следует периодически просматривать свои политики доступа.
• Предпочитайте управляемое удостоверение apiKey. Если вы используете apiKey, сохраните и вращайте его безопасно и не внедряйте его в систему управления версиями. Служба отклоняет конфигурации, которые задают оба apiKey и authIdentity.
• Периодически просматривает определения индексов, назначения ролей управляемого удостоверения и конфигурации APIM, чтобы убедиться, что resourceUri значения, элементы управления доступом и разрешения удостоверений остаются текущими и соответствующими. Просмотрите изменения конфигурации с помощью установленных процессов управления изменениями и проверки безопасности.
• Отслеживайте журналы входа Azure OpenAI и Foundry Tools, события проверки подлинности и журналы доступа для непредвиденных или несанкционированных действий.
• Удалите неиспользуемые векторизаторы, конечные точки, назначения ролей и ключи API, которые больше не требуются.

Ограничение доступа к конфигурации индексатора и векторизатора

Пользователи, которые могут создавать или изменять определения индекса, управляют конечной конечной точкой (resourceUri) и конфигурацией проверки подлинности, используемой векторизатором. Так как векторизатор отправляет маркер управляемого удостоверения для аудитории Foundry Tools в ту конечную точку, ограничьте эти разрешения доверенным администраторам и следуйте стандартным процессам управления изменениями и проверки безопасности при настройке векторизаторов с поддержкой управляемого удостоверения.

См. также

• Встроенная векторизация
• Настройка векторизатора в индексе поиска
• Azure навык внедрения OpenAI