H200 da NVIDIA vs. MI300X da AMD a alta margem da primeira é justificável?
As gigantes de chips de IA NVIDIA e AMD estão sob competição acirrada há alguns anos. A NVIDIA, embora controle a maior parte do mercado de soluções de computação de IA, foi desafiada pela AMD enquanto esta lançou a GPU Instinct MI300X no final de 2023, alegando que o produto é o chip de IA mais rápido do mundo, que supera as GPUs H200 da NVIDIA.
No entanto, meses após o lançamento do MI300X, uma análise do Richard’s Research Blog indica que o custo do MI300X da AMD é significativamente maior que o do H200 da NVIDIA, enquanto o H200 supera o MI300X em mais de 40% em relação às aplicações de produção de inferência, o que torna a alta margem da NVIDIA justificável.
AMD’s MI300X: Mais Transistores, Mais Capacidade de Memória, Mais Empacotamento Avançado…com um Custo Mais Alto
A análise ainda compara as especificações de chip entre os dois produtos mais vendidos e explora suas margens. O H200 da NVIDIA é implementado usando o nó N4 da TSMC com 80 bilhões de transistores. Por outro lado, o MI300X da AMD é construído com 153 bilhões de transistores, apresentando o processo de 5 nm da TSMC.
Além disso, o H200 da NVIDIA possui 141 GB de HBM3e, enquanto o MI300X da AMD é equipado com 192 GB de HBM3. Em relação às técnicas de empacotamento, enquanto a NVIDIA está usando o CoWoS 2.5D da TSMC no H200, o MI300X da AMD foi movido para CoWoS/SoIC 3D com um total de 20 dies/stacks, o que aumenta significativamente sua complexidade.
De acordo com a análise, sob o mesmo processo, o número de transistores no die de computação lógica e o tamanho total do die/custo total são aproximadamente proporcionais. O MI300X da AMD, equipado com quase o dobro do número de transistores comparado ao H200 da NVIDIA, portanto, é dito custar o dobro do último a esse respeito.
Com 36% mais capacidade de memória e complexidade de empacotamento muito maior, diz-se que o MI300X da AMD sofre um custo de fabricação significativamente maior do que o H200 da NVIDIA. Também vale a pena notar que, como a NVIDIA é atualmente a usuária dominante de HBM no mercado, a empresa deve aproveitar a vantagem de menores custos de aquisição, sugere a análise.
Este é o preço que a AMD tem que pagar pelas altas especificações do MI300X, observa a análise.
Margem de 80% da NVIDIA: alta à primeira vista, mas na verdade justificável
Por outro lado, citando os resultados dos testes MLPerf, a análise observa que na implementação prática para aplicações de produção de inferência, o H200 supera o MI300X em mais de 40%. Isso significa que se a AMD quiser manter uma relação custo/desempenho semelhante (que os clientes CSP exigirão), o preço do MI300X deve ser cerca de 30% menor que o H200. O cenário não leva outros fatores em consideração, incluindo a familiaridade da NVIDIA com fornecedores secundários, a Compute Unified Device Architecture (CUDA), bem como software relacionado.
Portanto, a análise sugere ainda que a margem bruta de 80% da NVIDIA, embora possa parecer alta à primeira vista, na verdade permite espaço para seus concorrentes sobreviverem. Se a NVIDIA precificasse seus produtos abaixo de uma margem de 70%, seus rivais poderiam ter dificuldades com lucros operacionais negativos.
Além de atingir melhor desempenho do produto a um custo menor por meio de tecnologia superior de hardware e software, a NVIDIA se destaca em fatores econômicos não técnicos, incluindo P&D e o dimensionamento de fotomáscaras caras, que impactam também as despesas operacionais (OPEX) e a distribuição de custos, enquanto seus compromissos de longo prazo com seus clientes, confiança e tempo de colocação no mercado também desempenham um papel, observa a análise.
Em relação às principais conclusões de seus últimos relatórios de lucros, a NVIDIA afirma que a demanda por Hopper continua forte, enquanto os chips Blackwell potencialmente gerarão bilhões de dólares em receita no quarto trimestre. A série Instinct MI300 da AMD, por outro lado, surgiu como um impulsionador de crescimento primário, pois espera-se que gere mais de US$ 4,5 bilhões em vendas este ano.
Fonte: trendforce.com
