{"id":7458,"date":"2024-03-12T16:52:33","date_gmt":"2024-03-12T19:52:33","guid":{"rendered":"https:\/\/agencia5.jornalfloripa.com.br\/agencia5jf\/7458"},"modified":"2024-03-12T16:52:33","modified_gmt":"2024-03-12T19:52:33","slug":"aceleradores-de-ia-intel-gaudi-2-sao-55-mais-rapidos-que-nvidia-h100","status":"publish","type":"post","link":"https:\/\/agencia5.jornalfloripa.com.br\/agencia5jf\/7458","title":{"rendered":"Aceleradores de IA Intel Gaudi 2 s\u00e3o 55% mais r\u00e1pidos que NVIDIA H100"},"content":{"rendered":"
<\/p>\n
Novos resultados de benchmarks apontam que aceleradores Intel Gaudi 2 j\u00e1 superam com folga as GPUs da NVIDIA para IA. Em testes de Stable Diffusion, os Gaudi 2 foram 55% mais r\u00e1pidos que as GPUs NVIDIA H100\u00a0e 3 vezes mais r\u00e1pidos que as A100 em benchmarks sint\u00e9ticos de IA.<\/p>\n
Naturalmente, a compara\u00e7\u00e3o considera apenas as solu\u00e7\u00f5es NVIDIA que j\u00e1 est\u00e3o no mercado, lembrando que os aceleradores com arquitetura Blackwell devem ser apresentados na pr\u00f3xima semana durante a GTC 2024. No entanto, a Intel j\u00e1 est\u00e1 trabalhando nos aceleradores Gaudi 3, supostamente projetados para enfrentar a pr\u00f3xima gera\u00e7\u00e3o de GPUs NVIDIA para IA.<\/p>\n
\nFor Stable Diffusion 3, we measured the training throughput for the 2B Multimodal Diffusion Transformer (MMDiT) architecture model. Gaudi 2 trained images 1.5x faster than the H100-80GB, and 3x faster than A100-80GB GPU\u2019s when scaled up to 32 nodes. (2\/3)<\/p>\n
–
Podcast Porta 101: a equipe do Canaltech discute quinzenalmente assuntos relevantes, curiosos, e muitas vezes pol\u00eamicos, relacionados ao mundo da tecnologia, internet e inova\u00e7\u00e3o. N\u00e3o deixe de acompanhar.
–<\/p>\n\u2014 Stability AI (@StabilityAI) March 11, 2024\n<\/p><\/blockquote>\n
Ecossistema de IA mais diverso<\/h2>\n
Os testes foram divulgados pela empresa Stability AI, especializada em desenvolver modelos LLM abertos para uma s\u00e9rie de aplica\u00e7\u00f5es, com par\u00e2metros entre 800 milh\u00f5es e 8 bilh\u00f5es. No teste com o Stable Diffusion 3, modelo de IA Generativa de texto para imagem, os Gaudi 2 entregaram 927 imagens\/s, contra 595 dos NVIDIA H100, e apenas 381 das A100.<\/p>\n
As placas H100 comp\u00f5e praticamente toda a infraestrutura de IA atual, principalmente nos servi\u00e7os baseados no modelo GPT. Apesar de estar chegando apenas agora no mercado de IA, a Intel est\u00e1 otimizando rapidamente o desempenho de seus aceleradores para garantir logo de sa\u00edda um portf\u00f3lio em escala para atender um volume mais amplo de clientes.<\/p>\n
\n\n
\n Plataforma<\/strong><\/td>\n Biblioteca<\/strong><\/td>\n Aceleradores<\/strong><\/td>\n Agrupamentos por acelerador<\/strong><\/td>\n Total de Agrupamentos<\/strong><\/td>\n \n Imagens\/segundo <\/strong><\/p>\n
(100-MA)<\/strong><\/p>\n<\/td>\n<\/tr>\n
\n Gaudi2<\/strong><\/td>\n FusedSDPA<\/td>\n 16<\/td>\n 32<\/td>\n 512<\/td>\n 1.254<\/td>\n<\/tr>\n \n Gaudi2<\/strong><\/td>\n FusedSDPA<\/td>\n 16<\/td>\n 16<\/td>\n 256<\/td>\n 927<\/td>\n<\/tr>\n \n H100-80GB<\/strong><\/td>\n xFormers<\/td>\n 16<\/td>\n 16<\/td>\n 256<\/td>\n 595<\/td>\n<\/tr>\n \n A100-80GB<\/strong><\/td>\n xFormers<\/td>\n 16<\/td>\n 16<\/td>\n 256<\/td>\n 381<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n A ideia n\u00e3o \u00e9 fazer com que as empresas que j\u00e1 utilizam aceleradores de IA, obrigatoriamente, migrem para os Gaudi, mas garantir que o produto seja competitivo. Com isso, \u00e9 poss\u00edvel assegurar tanto contratos com clientes que ainda n\u00e3o adotaram plataformas de IA, quanto eventuais atualiza\u00e7\u00f5es e expans\u00f5es de infraestrutura.<\/p>\n
Vale ressaltar ainda que as GPUs s\u00e3o geralmente mais eficientes nos processos de treinamento dos modelos LLM, enquanto as execu\u00e7\u00f5es de infer\u00eancia, propriamente, s\u00e3o processadas em CPUs. Com Intel e AMD investindo em solu\u00e7\u00f5es de processadores para IA, \u00e9 esperado que a dissemina\u00e7\u00e3o da Intelig\u00eancia Artificial ao longo do pr\u00f3ximo ano seja mais diversificada, dependendo relativamente menos de aceleradores, reduzindo um pouco a atual lideran\u00e7a isolada da NVIDIA no setor, e promovendo um ecossistema mais diverso.<\/p>\n
\n
- \ud83d\uded2 Compre notebooks com CPU Intel Core pelo melhor pre\u00e7o!<\/li>\n
- \ud83d\uded2 Compre notebook com GPU NVIDIA GeForce RTX pelo melhor pre\u00e7o!<\/li>\n<\/ul>\n
Leia a mat\u00e9ria no Canaltech.<\/p>\n
Trending no Canaltech:<\/p>\n<\/p>\n
\n
- Programa do IRPF 2024 j\u00e1 est\u00e1 dispon\u00edvel; veja como baixar<\/li>\n
- Pre\u00e7o cai e Fiat Mobi \u00e9 o carro mais barato do Brasil<\/li>\n
- 2,2 mil passos por dia j\u00e1 reduzem efeitos do sedentarismo<\/li>\n
- Os 45 filmes mais esperados de 2024<\/li>\n
- \ud83d\udd25 BAIXOU MAIS | Compre Galaxy Watch 5 Pro em super oferta<\/li>\n
- Harry Potter | Atriz critica f\u00e3s adultos da saga: “\u00c9 para crian\u00e7as. Superem”<\/li>\n<\/ul><\/div>\n","protected":false},"excerpt":{"rendered":"
Novos resultados de benchmarks apontam que aceleradores Intel Gaudi 2 j\u00e1 superam com folga as GPUs da NVIDIA para IA. Em testes de Stable Diffusion, os Gaudi 2 foram 55% mais r\u00e1pidos que as GPUs NVIDIA H100\u00a0e 3 vezes mais r\u00e1pidos que as A100 em benchmarks sint\u00e9ticos de IA. Era… Continue lendo