Modelos Gemma-4-31B-it-assistant e Gemma-4-31B-IT-NVFP4 chegam ao Amazon SageMaker JumpStart

Novos modelos Gemma 4 disponíveis no SageMaker JumpStart

A AWS anunciou a disponibilidade de dois novos modelos no Amazon SageMaker JumpStart: o Gemma-4-31B-it-assistant, desenvolvido pelo Google DeepMind, e o Gemma-4-31B-IT-NVFP4, uma variante otimizada pela NVIDIA. Com essa adição, o portfólio de modelos fundacionais disponíveis para clientes AWS se expande com opções de alto desempenho baseadas na arquitetura densa de 31 bilhões de parâmetros do Gemma 4.

Os dois modelos foram projetados para atender a diferentes necessidades em cargas de trabalho empresariais — um focado em capacidade máxima e multimodalidade, e o outro em eficiência de memória e velocidade de inferência.

Conheça cada modelo

Gemma-4-31B-it-assistant

Esta é a variante ajustada para assistente do modelo principal de 31 bilhões de parâmetros do Google. Ela foi construída para tarefas de raciocínio multimodal, programação e fluxos de trabalho agênticos — ou seja, sistemas de Inteligência Artificial (IA) que tomam decisões e executam ações de forma autônoma.

Entre suas características técnicas, destacam-se:

  • Suporte a entradas de texto e imagem (incluindo vídeo como sequências de quadros), com saída em texto
  • Janela de contexto de 256 mil tokens
  • Suporte a mais de 140 idiomas
  • Mecanismo de atenção híbrido, combinando atenção local por janela deslizante e atenção global completa
  • Chamada de função nativa para construção de agentes autônomos

O modelo ocupa a 3ª posição entre os modelos abertos no ranking de texto do Arena AI, superando modelos até 20 vezes maiores em tamanho.

Gemma-4-31B-IT-NVFP4

Esta variante entrega as mesmas capacidades do Gemma 4 31B com um consumo de memória significativamente menor. Ela foi quantizada com o framework ModelOpt da NVIDIA para precisão de 4 bits FP4, o que resulta em:

  • Uso de memória de aproximadamente 18,5 GB — 68% menor que o modelo base
  • Inferência aproximadamente 2,5 vezes mais rápida
  • Retenção de 97 a 99% da qualidade do modelo original

É a opção recomendada para implantações em produção com alto volume de requisições e foco em custo-benefício, compatível com GPUs NVIDIA RTX, DGX Spark e GPUs de data center.

Como implantar pelo SageMaker JumpStart

Com o SageMaker JumpStart, a AWS permite que qualquer um desses modelos seja implantado com poucos cliques. Para começar, basta acessar o catálogo de modelos do SageMaker JumpStart pelo console do SageMaker, ou utilizar o SDK Python do SageMaker para realizar a implantação diretamente na sua conta AWS.

Para mais detalhes sobre como implantar e utilizar modelos fundacionais no SageMaker JumpStart, consulte a documentação oficial do Amazon SageMaker JumpStart.

Fonte

Gemma-4-31B-it-assistant and Gemma-4-31B-IT-NVFP4 models now available on Amazon SageMaker JumpStart (https://aws.amazon.com/about-aws/whats-new/2026/01/gemma-4-31b-it-assistant-gemma-4-31b-it-nvfp4-jumpstart/)

Comments

Leave a Reply

Your email address will not be published. Required fields are marked *