Computex 2024 | GPUs Gaudi são mais rápidas e mais baratas que NVIDIA H100

por | |

A Intel revelou mais detalhes sobre seus servidores para IA com GPUs Gaudi nesta terça-feira (4) de Computex 2024. Segundo a empresa, soluções equipadas com aceleradores Gaudi 2 são até 15% mais rápidas que produtos com GPUs NVIDIA H100 por apenas 33% do valor, enquanto modelos com Gaudi 3 custam 66% menos que servidores H100, mas com o dobro do desempenho em IA.

  • 6 novidades incríveis da Computex 2024
  • Computex 2024 | Intel apresenta novos Xeon 6 com 288 núcleos

Em termos absolutos, isso representa custos de US$ 65 mil e US$ 125 mil por sistema equipado com 8 GPUs Gaudi 2 e Gaudi 3, respectivamente, contra os quase US$ 200 mil por sistema com GPUs H100.

Considerando o valor muito mais elevado para os servidores NVIDIA, mesmo sem a vantagem significativa de desempenho das Gaudi, seu custo inicial de instalação, por si só, já abre as portas para empresas menores adotarem soluções de IA muito mais facilmente.

–
Podcast Canaltech: de segunda a sexta-feira, você escuta as principais manchetes e comentários sobre os acontecimentos tecnológicos no Brasil e no mundo. Links aqui: https://canaltech.com.br/podcast/
–

Ameaçando a hegemonia CUDA

A Intel celebrou o momento afirmando que, a partir de agora, “aproveitar o poder da IA gerativa se tornou mais rápido e menos caro”. Além disso, o próprio processo de desenvolver aplicações para Inteligência Artificial também tem um enorme potencial para ser muito simplificado.

GPUs Intel Gaudi 3 são mais rápidas e mais baratas que NVIDIA H100. (Imagem: Felipe Vidal / Canaltech)

Isso porque, na computação de maneira geral, a arquitetura x86 é a mais difundida, e programar nesse ecossistema não exige ferramentas proprietárias complexas, como ocorre em CUDA. Por mais que os servidores em CUDA dominem o mercado de Computação de Alto Desempenho e IA, é relativamente mais complexo depender de kits de desenvolvimento fornecidos por uma única empresa.

Ao lançar hardwares extremamente competentes para IA operando em x86, o esforço para “integrar o poder da IA, garantindo interoperabilidade” é muito menor. Além disso, trabalhar com um ecossistema aberto é extremamente benéfico para todos os níveis de operação, dos desenvolvedores aos clientes.

Segundo a Intel, a estimativa é que um cluster de 8.192 aceleradores Gaudi 3 ofereça até 40% mais rapidez no tempo de treinamento em comparação ao cluster equivalente com GPUs NVIDIA H100, e até 15% mais rapidez no rendimento de treinamento para um cluster de 64 aceleradores em modelo LLM Llama2-70B. 

Até o momento, a Intel já possui parceria com dez grandes fabricantes para garantir um bom portfólio de servidores com Gaudi 3, entre Asus, Foxconn, Gigabyte, Inventec, Quanta, Wistron, Dell, Hewlett Packard Enterprise, Lenovo e Supermicro.

  • 🛒 Compre notebook gamer com CPU Intel Core pelo melhor preço!
  • 🛒 Compre processador Intel Core pelo melhor preço!

O Canaltech viajou à Taipé, Taiwan, para cobrir a Computex 2024 a convite da Taitra.

Leia a matéria no Canaltech.

Trending no Canaltech:

  • BYD dá carro híbrido a técnico do Palmeiras após gafe; veja como ele é
  • HMD Skyline com design de Nokia Lumia chega em julho com bom conjunto, diz site
  • IA da Apple deve ficar de fora de iPhones antigos; veja quais
  • 360 milhões de e-mails vazam em canais do Telegram; veja se o seu é um deles
  • Samsung lança monitores gamer com tela OLED no Brasil; confira os preços
  • PS5 Pro está pronto desde 2023, mas foi adiado por conta de GTA 6
Adicionar aos favoritos o Link permanente.