Azure APIM ganha AI Gateway: governança de modelos e MCP

A Microsoft lançou em prévia pública um novo tier de AI Gateway no Azure API Management. A proposta é organizar o control plane em torno de modelos, servidores e ferramentas MCP, em vez de APIs, mantendo capacidades de IA já existentes nos tiers clássico e v2. O gateway publica modelos hospedados pela Foundry (como OpenAI, Anthropic e Mistral) e também integra modelos de AWS Bedrock, Google Vertex AI e OpenAI; para provedores compatíveis com OpenAI, o roteamento ocorre por correspondência exata do campo “model”, exigindo nomes únicos. Para ferramentas, ele federará backends via URL de servidor MCP, especificação OpenAPI ou conectores embutidos para mais de mil SaaS, expondo operações como “tools” com autenticação configurável (nenhuma, API key, OAuth 2.0 ou managed identity).

O que muda para times de desenvolvimento é a forma de “colocar em produção” integrações com LLMs e agentes: políticas deixam de ser só XML/expressões e passam a ser configuradas em cards no portal, com limites de tokens e requisições, quotas, Content Safety e fallback de modelo. A governança de custo e uso pode ficar centralizada no gateway, com telemetria via OpenTelemetry para destinos como Application Insights, Datadog e Grafana, mas a prévia também levanta dúvidas sobre limites, SLA (sem SLA) e como lidar com o ciclo de vida quando execuções de agentes não finalizam corretamente.