Amazon SageMaker AI agora suporta personalização serverless do modelo NVIDIA Nemotron 3.5 Lightning

O que foi anunciado

A AWS anunciou que o Amazon SageMaker AI passou a oferecer suporte à personalização serverless do modelo NVIDIA Nemotron 3.5 Lightning. A novidade permite que equipes adaptem esse modelo de linguagem às suas necessidades específicas utilizando três abordagens de ajuste fino: Ajuste Fino Supervisionado (SFT), Otimização de Preferência Direta (DPO) e Ajuste Fino por Reforço (RFT).

Sobre o NVIDIA Nemotron 3.5 Lightning

O Nemotron 3.5 Lightning é um dos modelos de pesos abertos mais recentes da NVIDIA. Sua arquitetura é baseada em um modelo híbrido de Mistura de Especialistas (Mixture-of-Experts), contando com 3 bilhões de parâmetros ativos e 30 bilhões de parâmetros no total. Essa combinação permite alto desempenho com menor custo computacional em tarefas específicas.

Por que personalizar um modelo?

A personalização de modelos de fundação é uma estratégia poderosa para equipes que precisam de resultados de qualidade equivalente aos grandes modelos de fronteira, mas com menor custo e latência. A ideia central é simples: em vez de usar um modelo genérico e gigante, você treina um modelo menor com os seus próprios dados, fazendo com que ele se especialize exatamente no que a sua organização precisa.

No SageMaker AI, isso pode ser feito de três formas distintas:

  • SFT (Ajuste Fino Supervisionado): utiliza dados rotulados para melhorar a precisão em tarefas específicas do seu domínio.
  • DPO (Otimização de Preferência Direta): usa dados de preferência para alinhar as respostas do modelo ao tom e às diretrizes da sua organização.
  • RFT (Ajuste Fino por Reforço): aplica sinais de recompensa para aprimorar o desempenho em tarefas novas.

A vantagem do serverless

O grande diferencial dessa novidade é a abordagem serverless: o SageMaker AI cuida de todo o provisionamento de infraestrutura e da orquestração do treinamento automaticamente. Isso significa que as equipes podem focar no que realmente importa — os dados e a avaliação dos resultados — sem precisar gerenciar clusters ou configurar ambientes de treinamento manualmente. O modelo de cobrança também segue a lógica serverless: você paga apenas pelo que utilizar.

Disponibilidade e como começar

A personalização serverless do NVIDIA Nemotron 3.5 Lightning no SageMaker AI está disponível nas seguintes regiões AWS:

  • US East (Norte da Virgínia)
  • US West (Oregon)
  • Asia Pacific (Tóquio)
  • Europe (Irlanda)

Para iniciar um job de personalização, basta acessar a página de Modelos no Amazon SageMaker Studio. Quem prefere acesso programático pode utilizar o SDK Python do SageMaker. Para aprofundar o conhecimento técnico, a AWS disponibiliza a documentação oficial de personalização de modelos com todos os detalhes necessários.

Fonte

Amazon SageMaker AI now supports serverless model customization for NVIDIA Nemotron 3.5 Lightning (https://aws.amazon.com/about-aws/whats-new/2026/09/amazon-sagemaker-ft-nemotron-3-5-lightning/)

Comments

Leave a Reply

Your email address will not be published. Required fields are marked *