A Nvidia lançou o Digits, um supercomputador pessoal de IA compacto, capaz de executar modelos de linguagem avançados localmente.Equipado com o GB10 Grace Blackwell Superchip, o dispositivo oferece até 1 petaflop de performance e permite o desenvolvimento de aplicações de IA sem a necessidade de infraestrutura em nuvem.
Com preços a partir de US$ 3.000, o Digits torna acessível a tecnologia de ponta para empreendedores e profissionais de software.
A Nvidia apresentou recentemente o Digits, um supercomputador pessoal de inteligência artificial que cabe em cima da mesa.
O dispositivo se assemelha a um Mac mini em tamanho e pode ser facilmente integrado a qualquer ambiente de trabalho.
Basta conectá-lo a um teclado, monitor e à energia elétrica para começar a usar.
O que torna o Digits especial é seu interior.
Ele é alimentado pelo novo GB10 Grace Blackwell Superchip da Nvidia, que oferece até 1 petaflop de performance em IA.
Em parceria com a MediaTek, a Nvidia conseguiu tornar o chip mais eficiente em termos energéticos, permitindo que o aparelho funcione utilizando uma tomada padrão.
Com 128GB de RAM e até 4TB de armazenamento NVMe, o Digits permite aos desenvolvedores executar modelos de linguagem de grande porte (LLMs) com até 200 bilhões de parâmetros.
Utilizando a tecnologia Nvidia ConnectX, é possível parear dois dispositivos Digits para rodar modelos com até 405 bilhões de parâmetros.
Para colocar em perspectiva, o ChatGPT 3.5 possui 175 bilhões de parâmetros, enquanto o Llama 3 da Meta chega a 405 bilhões.
Isso significa que, com o Digits, é possível executar modelos de IA extremamente poderosos localmente, sem depender de infraestrutura em nuvem.
Segundo Jensen Huang, fundador e CEO da Nvidia, “colocar um supercomputador de IA nas mesas de cada cientista de dados, pesquisador de IA e estudante os capacita a se envolverem e moldarem a era da IA”.
Os desenvolvedores que utilizarem o Digits terão acesso à biblioteca de softwares de IA da Nvidia, incluindo kits de desenvolvimento, ferramentas de orquestração, frameworks e modelos disponíveis no catálogo Nvidia NGC e no portal do desenvolvedor da Nvidia.
Além disso, o dispositivo oferece acesso ao framework Nvidia NeMo e às bibliotecas Nvidia RAPIDS.
O Digits estará disponível em maio, com preços a partir de US$ 3.000.
Esse valor torna a tecnologia acessível a um grande número de pequenas empresas e pesquisadores, que poderão criar e testar aplicações de IA de forma local e eficiente.
Para aqueles que consideram o investimento ainda elevado, a Nvidia também oferece o Jetson, um computador doméstico de IA lançado em dezembro passado por US$ 249, capaz de lidar com modelos de até 8 bilhões de parâmetros.
A chegada do Digits ao mercado pode representar uma mudança significativa, oferecendo ferramentas avançadas para o desenvolvimento e teste de aplicações de IA de alta complexidade.
Com a possibilidade de executar modelos robustos localmente, as empresas podem reduzir custos com infraestrutura em nuvem e aumentar a privacidade e controle sobre seus dados.
