Modelos Anthropic no Amazon Bedrock com inferência regional em Seul e Singapura

Novidade: Claude com inferência regional na Ásia-Pacífico

A AWS anunciou a disponibilidade dos modelos Anthropic Claude no Amazon Bedrock com suporte a inferência regional nas regiões da Ásia-Pacífico. Agora, o Claude Opus 5 e o Claude Sonnet 5 estão disponíveis em Seul (ap-northeast-2), enquanto o Claude Sonnet 5 passa a estar acessível também em Singapura (ap-southeast-1) — ambos com inferência regional no endpoint bedrock-runtime.

Essa expansão é especialmente relevante para organizações que atuam na Coreia do Sul ou em Singapura e precisam garantir que o processamento de dados de Inteligência Artificial (IA) ocorra inteiramente dentro de uma única região — como é o caso de empresas de serviços financeiros, saúde e setor público, onde requisitos regulatórios de residência de dados são frequentemente obrigatórios.

O que é inferência regional (in-region inference)?

A inferência regional é um modo de operação do Amazon Bedrock no qual toda a requisição — desde o prompt enviado até a resposta gerada — é processada exclusivamente dentro da região AWS que você especifica. Em nenhum momento os dados trafegam para outra região.

Isso difere dos perfis de inferência entre regiões (cross-region inference profiles), que possuem uma camada de roteamento. Na inferência regional, não existe essa camada intermediária: a requisição enviada para Seul é processada em Seul, e a enviada para Singapura é processada em Singapura. Tanto os prompts de entrada quanto os resultados gerados permanecem na região durante todo o ciclo de vida da requisição.

Como contrapartida, a capacidade de processamento fica limitada à capacidade disponível naquela região específica. As requisições estão sujeitas às cotas de serviço por região, e a cobrança segue o modelo de preços sob demanda padrão da região utilizada. Métricas do Amazon CloudWatch, registros do AWS CloudTrail e consumo de cotas são todos escopados à mesma região — sem distinção entre origem e destino no monitoramento.

Como acessar os modelos Claude no console do Amazon Bedrock

Quem prefere explorar os modelos antes de integrar uma API pode fazer isso diretamente pelo console do Amazon Bedrock, sem necessidade de código ou configuração de SDK. No playground de texto, é possível enviar prompts, ajustar parâmetros de inferência e comparar variantes de modelos.

Para isso, basta abrir o console do Amazon Bedrock na região desejada, acessar a opção Playground no painel de navegação (em Test), selecionar o modelo — por exemplo, anthropic.claude-opus-5 — escolher a modalidade On-Demand em Inference e aplicar. Em seguida, basta inserir um prompt e executar para obter uma resposta.

Acesso programático: APIs disponíveis

Para integrações em código, o endpoint bedrock-runtime é recomendado pela AWS para novas aplicações. Ele suporta a API Messages da Anthropic, a API InvokeModel e a API Converse do Amazon Bedrock, além de recursos como o Amazon Bedrock Guardrails e o roteamento inteligente de prompts. O modelo é invocado pelo seu ID direto, como anthropic.claude-opus-5 ou anthropic.claude-sonnet-5.

Pré-requisitos

• Conta AWS ativa com acesso ao Amazon Bedrock
• AWS Command Line Interface (AWS CLI) instalado e configurado
• Python 3.8 ou superior
• Boto3 instalado: pip install boto3
• SDK da Anthropic instalado: pip install anthropic
• Gerador de tokens do Amazon Bedrock para autenticação: pip install aws_bedrock_token_generator

Exemplo com a API InvokeModel (Singapura)

O exemplo abaixo usa o AWS SDK para Python (Boto3) com a API InvokeModel, configurado para inferência regional em Singapura:

import boto3
import json

# Create a Bedrock Runtime client with in-region inference in Singapore
bedrock_runtime = boto3.client(
    service_name="bedrock-runtime",
    region_name="ap-southeast-1")

# Invoke Claude Sonnet 5
response = bedrock_runtime.invoke_model(
    modelId="anthropic.claude-sonnet-5",
    contentType="application/json",
    accept="application/json",
    body=json.dumps({
        "anthropic_version": "bedrock-2023-05-31",
        "max_tokens": 4096,
        "messages": [
            {
                "role": "user",
                "content": " Can you explain the features of Amazon Bedrock? "
            }
        ]
    })
)

result = json.loads(response["body"].read())
print(result["content"][0]["text"])

Exemplo com a API Converse (Seul)

Para uma experiência unificada com múltiplos modelos, a API Converse do Amazon Bedrock também está disponível com inferência regional em Seul:

import boto3

# Create a Bedrock Runtime client with in-region inference in Seoul
bedrock_runtime = boto3.client(
    service_name="bedrock-runtime",
    region_name="ap-northeast-2"
)

# Invoke Claude Opus 5
response = bedrock_runtime.converse(
    modelId="anthropic.claude-opus-5",
    messages=[
        {
            "role": "user",
            "content": [
                {
                    "text": " Can you explain the features of Amazon Bedrock?"
                }
            ]
        }
    ],
    inferenceConfig={
        "maxTokens": 4096
    }
)

if 'output' in response:
    blocks = response['output']['message']['content']
    print('\n'.join(b.get('text', '') for b in blocks if 'text' in b))

Exemplo com a API Messages da Anthropic (Seul)

Também é possível usar a API Messages da Anthropic diretamente via SDK da Anthropic, com autenticação pelo gerador de tokens do Bedrock:

from anthropic import Anthropic
from aws_bedrock_token_generator import provide_token

token = provide_token(region="ap-northeast-2")

client = Anthropic(
    base_url="https://bedrock-runtime.ap-northeast-2.amazonaws.com/anthropic",
    api_key=token,
)

response = client.messages.create(
    model="anthropic.claude-sonnet-5",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}],
)

print(response)

Monitoramento e custos

O uso, a performance e os custos das aplicações podem ser acompanhados pelo CloudWatch e pelo AWS Cost Explorer, permitindo escalar as aplicações conforme a demanda cresce.

Conclusão

Com a chegada do Claude Opus 5 e do Claude Sonnet 5 ao Amazon Bedrock com inferência regional em Seul, e do Claude Sonnet 5 em Singapura, a AWS amplia as opções para organizações que precisam construir aplicações de IA generativa com requisitos rigorosos de residência de dados nessas regiões. O processamento de inferência permanece inteiramente dentro da região configurada, sem roteamento externo.

Para verificar a disponibilidade atualizada de modelos por região, a AWS recomenda consultar a página de disponibilidade regional por modelos no Guia do Usuário do Amazon Bedrock.

Fonte

Introducing Anthropic models on Amazon Bedrock for in-region inference in Seoul and Singapore (https://aws.amazon.com/blogs/machine-learning/introducing-anthropic-models-on-amazon-bedrock-for-in-region-inference-in-seoul-and-singapore/)