Amazon Bedrock expande disponibilidade dos modelos Claude para inferência local na Índia

Novos modelos Claude disponíveis com inferência local na Índia

A AWS anunciou a disponibilidade dos modelos Claude Opus 5, Claude Sonnet 5 e Claude Haiku 4.5 da Anthropic no Amazon Bedrock com suporte a inferência geográfica entre regiões dentro da Índia. Isso significa que clientes que operam no país agora podem utilizar esses modelos mantendo o processamento dos dados exclusivamente em regiões indianas — além do já disponível perfil global de inferência entre regiões.

Essa expansão é especialmente relevante para organizações que precisam atender a requisitos regulatórios ou de conformidade que exigem que os dados sejam processados localmente, dentro de uma geografia específica.

Como funciona a inferência geográfica na Índia

O Amazon Bedrock oferece perfis de inferência entre regiões (cross-Region inference profiles), um recurso que distribui automaticamente as requisições de inferência entre múltiplas regiões da AWS — sem que o cliente precise gerenciar capacidade em cada região individualmente.

No caso do perfil geográfico indiano, as requisições trafegam apenas entre as regiões ap-south-1 (Mumbai) e ap-south-2 (Hyderabad). Isso garante que os dados permaneçam dentro das fronteiras do país. Em vez de depender da capacidade de uma única região, as requisições se beneficiam de um pool de computação mais amplo, o que ajuda a manter a vazão e o desempenho consistente, especialmente em momentos de pico de tráfego.

Segurança e privacidade dos dados

A inferência entre regiões opera sobre a rede segura da AWS com criptografia de ponta a ponta para dados em trânsito. Os dados do cliente não são armazenados na região de destino — eles permanecem exclusivamente na região de origem da requisição.

O Amazon Bedrock utiliza um modelo de segurança de dados com retenção zero (Zero Data Retention — ZDR): por padrão, entradas e saídas dos modelos não são armazenadas. Há uma exceção: determinados modelos podem exigir revisão humana pela AWS caso o conteúdo seja sinalizado por classificadores automáticos de segurança. Para mais detalhes, consulte a documentação sobre retenção de dados no Guia do Usuário do Amazon Bedrock.

Faturamento e monitoramento

O consumo de cota e o faturamento são contabilizados na conta da região de origem, independentemente de qual região de backend processou a requisição. Os registros do Amazon CloudWatch e do AWS CloudTrail também são gravados apenas na região de origem, centralizando o monitoramento em um único lugar.

APIs e recursos compatíveis

A inferência geográfica está disponível no endpoint bedrock-runtime e é compatível com a API Messages da Anthropic, além das APIs nativas do Amazon Bedrock: InvokeModel e Converse. O recurso também funciona em conjunto com funcionalidades do Amazon Bedrock como o Amazon Bedrock Guardrails e o roteamento inteligente de prompts.

Como acessar os modelos Claude

Pelo console do Amazon Bedrock

É possível acessar os modelos Claude diretamente pelo playground de texto no console do Amazon Bedrock, sem necessidade de código ou configuração de SDK. Para isso, basta abrir o console na região desejada como origem, acessar o menu Test > Playground, selecionar o modelo (por exemplo, IN Anthropic Claude Opus 5 como perfil de inferência) e executar um prompt.

Via código com as APIs disponíveis

Para acesso programático, os modelos podem ser chamados com o ID do perfil de inferência geográfica da Índia usando a API Messages da Anthropic via SDK da Anthropic, ou com as APIs InvokeModel e Converse via Interface de Linha de Comando da AWS (AWS CLI) e AWS SDK.

Pré-requisitos

  • Conta AWS ativa com acesso ao Amazon Bedrock
  • AWS CLI instalada e configurada
  • Python 3.8 ou superior
  • Boto3 instalado: pip install boto3
  • SDK da Anthropic instalado: pip install anthropic
  • Gerador de tokens Bedrock instalado: pip install aws_bedrock_token_generator
  • Função ou usuário do AWS Identity and Access Management (IAM) com as permissões necessárias para invocar modelos do Amazon Bedrock usando um perfil de inferência geográfica entre regiões

Exemplo com a API InvokeModel (Boto3)

import boto3
import json

# Create a Bedrock Runtime client
bedrock_runtime = boto3.client(
    service_name="bedrock-runtime",
    region_name="ap-south-1"
)

# Invoke Claude Sonnet 5
response = bedrock_runtime.invoke_model(
    modelId="in.anthropic.claude-sonnet-5",
    contentType="application/json",
    accept="application/json",
    body=json.dumps({
        "anthropic_version": "bedrock-2023-05-31",
        "max_tokens": 4096,
        "messages": [
            {
                "role": "user",
                "content": " Can you explain the features of Amazon Bedrock? "
            }
        ]
    })
)

result = json.loads(response["body"].read())
print(result["content"][0]["text"])

Exemplo com a API Converse

import boto3

# Create a Bedrock Runtime client
bedrock_runtime = boto3.client(
    service_name="bedrock-runtime",
    region_name="ap-south-1"
)

# Invoke Claude Opus 5
response = bedrock_runtime.converse(
    modelId="in.anthropic.claude-opus-5",
    messages=[
        {
            "role": "user",
            "content": [
                {
                    "text": " Can you explain the features of Amazon Bedrock?"
                }
            ]
        }
    ],
    inferenceConfig={
        "maxTokens": 4096
    }
)

if 'output' in response:
    blocks = response['output']['message']['content']
    print('\n'.join(b.get('text', '') for b in blocks if 'text' in b))

Exemplo com a API Messages da Anthropic

from anthropic import Anthropic
from aws_bedrock_token_generator import provide_token

token = provide_token(region="ap-south-1")
client = Anthropic(
    base_url="https://bedrock-runtime.ap-south-1.amazonaws.com/anthropic",
    api_key=token,
)

response = client.messages.create(
    model="in. anthropic.claude-haiku-4-5-20251001-v1:0",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}],
)
print(response)

Monitoramento e custos

É possível acompanhar uso, desempenho e custos através do CloudWatch e do AWS Cost Explorer, facilitando o dimensionamento das aplicações conforme a demanda cresce.

Conclusão

Com a chegada dos modelos Claude Opus 5, Claude Sonnet 5 e Claude Haiku 4.5 ao Amazon Bedrock com inferência geográfica na Índia, organizações que operam no país passam a ter uma opção para construir aplicações de IA generativa escaláveis e resilientes mantendo a inferência dentro das fronteiras nacionais. O acesso pode ser feito pelo console do Amazon Bedrock ou via API usando o ID do perfil de inferência geográfica da Índia. Para informações atualizadas sobre disponibilidade de modelos por região, consulte a página de disponibilidade regional por modelo no Guia do Usuário do Amazon Bedrock.

Fonte

Amazon Bedrock expands Claude model availability to in-country inferencing in India (https://aws.amazon.com/blogs/machine-learning/amazon-bedrock-expands-claude-model-availability-to-india-cross-region-inference/)

Comments

Leave a Reply

Your email address will not be published. Required fields are marked *