Intel Core Ultra 7 258V come poeira do AMD Ryzen AI HX 375 em testes de LLM

AMD e Intel seguem numa briga para ver quem tem a melhor CPU mobile para processamento de IA. Nessa disputa, os Ryzen AI 300 têm ampla vantagem sobre os Core Ultra 200 “Lunar Lake” em LLM, segundo benchmarks da própria AMD.

  • Clique e siga o Canaltech no WhatsApp
  • AMD anuncia Ryzen 7 9800X3D com 104 MB de cache e 20% mais potente que rival
  • Intel Core Ultra 200 não vende nem uma unidade na maior varejista da Alemanha

No blog oficial do Time Vermelho, foi divulgado alguns embates entre o Ryzen AI 9 HX 375 e Core Ultra 7 258V em LLM no software LM Studio, ou seja, estamos falando de processamento bruto em diferentes tarefas com IA voltados para uso doméstico.

O processador da AMD é até 27% melhor que o rival da Intel nessas aplicações, com o Ryzen entregando até 50,7 tk/s (tokens por segundo), unidade de medida em LLM (Large Language Models), que basicamente quer dizer o número de palavras por segundo que é mostrado na tela.


Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.

Em outro teste que mede o tempo para apresentar o primeiro token, que tem a ver com o tempo de resposta da CPU em LLM, o AMD Ryzen AI 9 HX 375 entrega latência 3,5x menor comparado com o Intel Core Ultra 7 258V.

 

Desempenho em IA com iGPU

Essa vantagem do processador mobile da AMD acontece com o uso dos núcleos Zen 5 e NPU XDNA 2, mas é possível também usar sua iGPU RDNA 3.5 em certas tarefas. Em outro teste, a aceleração de IA pelos gráficos integrados é até 13,1% mais rápido do lado da AMD.

A empresa liderada por Lisa Su enfatiza que a vantagem do Ryzen AI 9 HX 375 acontece mesmo tendo a desvantagem de memórias mais lentas (DDR5-7500), em comparação com o notebook equipado com o Intel Core Ultra 7 258V, que conta com memória a 8533 MT/s, consideravelmente mais rápida.

Ryzen AI 9 HX 375 vs Intel Core Ultra 7 258V em LLM
Benchmarks no LM Studio (AMD)
Ryzen AI 9 HX 375 vs Intel Core Ultra 7 258V em LLM
Benchmarks no LM Studio (AMD)
Ryzen AI 9 HX 375 vs Intel Core Ultra 7 258V em LLM
Benchmarks no LM Studio (AMD)
Ryzen AI 9 HX 375 vs Intel Core Ultra 7 258V em LLM
Benchmarks no LM Studio (AMD)

Vale ressaltar que a CPU da AMD conta com 12 núcleos e 24 threads, 24 MB de cache L3 e TDP máximo de 54W, contra os 8 núcleos e 8 threads, 12 MB de cache L3 e TDP máximo de 37W do lado da Intel. Além disso, são testes da própria AMD e é bom lembrar a situação dos Ryzen 9000, em que as reviews mundiais não refletiram os testes internos da empresa.

Leia a matéria no Canaltech.

Adicionar aos favoritos o Link permanente.