IA rodando na sua mesa: o novo Mac Studio e o DGX Spark da NVIDIA colocam modelos grandes em casa

Até pouco tempo, rodar um modelo de IA grande exigia alugar máquina na nuvem e pagar por token. Nesta semana, duas empresas que raramente concordam em algo estão vendendo a mesma ideia: um computador de mesa que roda o modelo inteiro, dentro da sua sala, sem mandar nada para fora. A Apple começa a entregar hoje o novo Mac Studio, e a NVIDIA já vende o DGX Spark. Vale entender o que cada um faz e para quem serve.

O que aconteceu

A Apple anunciou em 25 de agosto o Mac Studio com os chips M5 Max e M5 Ultra, com entrega a partir de 22 de setembro ^[1]. A versão com M5 Ultra chega a 512 GB de memória unificada, e a própria Apple diz que ele "permite rodar modelos enormes inteiramente no dispositivo, com privacidade completa, sem contar tokens nem se preocupar com custo de nuvem" ^[1]. Os preços começam em US$ 2.499 para o M5 Max e US$ 5.499 para o M5 Ultra ^[1]. Quem precisa de mais pode ligar até quatro máquinas por Thunderbolt 5, com até 3 vezes mais velocidade de inferência do que uma só ^[1].

Do lado da NVIDIA, o DGX Spark é um cubo de 15 centímetros e 1,2 kg com o superchip GB10 e 128 GB de memória unificada ^[2]. A empresa diz que ele roda modelos de até 200 bilhões de parâmetros, ajusta modelos de até 70 bilhões, e que quatro unidades ligadas chegam a 700 bilhões ^[2]. O preço nos Estados Unidos é de US$ 4.699, depois de um aumento em fevereiro por causa do custo da memória ^[3].

As análises independentes apontam a diferença prática: o Spark tem largura de banda de memória modesta, cerca de 273 GB/s, e gera texto em ritmo mais lento que placas dedicadas, mas é o caminho natural para quem trabalha com o ecossistema da NVIDIA ^[3]. O Mac Studio aposta em muito mais memória e banda, o que favorece rodar modelos maiores para uso, não para treinar ^[1][3].

Por que isso importa

O recado é o mesmo do artigo sobre modelos abertos: a IA de ponta está deixando de ser algo que só existe na nuvem de outra pessoa. Com um modelo aberto e uma dessas máquinas, uma empresa pequena consegue ter um assistente que lê contratos, resume atendimentos e responde perguntas sobre os documentos internos, sem que uma linha saia do escritório.

O cuidado é não comprar hardware por impulso. Uma máquina de US$ 5 mil só se paga se você já sabe qual tarefa vai rodar nela, quantas vezes por dia, e quem vai cuidar. Para a maioria dos negócios, o primeiro passo continua sendo testar em API barata ou em um computador que já existe, e comprar só depois de provar o valor.

Na IV Help, esse tipo de máquina entra no fim do projeto, não no começo.

Para fechar

O curso gratuito IA Local e Segura para Empresas mostra, na prática, o que cabe em cada computador e como rodar um modelo com os seus próprios dados, inclusive em uma máquina comum. E se a sua empresa quer IA que fica dentro de casa, o time da IV Help dimensiona a solução certa, do modelo à máquina.