A NVIDIA publicou, durante o AI Infra Summit, detalhes de sua estratégia para avaliar a eficiência de fábricas de IA com a métrica de tokens por watt. A abordagem foi apresentada no contexto de infraestrutura de IA, consumo energético e otimização da geração de tokens.
A empresa relacionou a proposta aos avanços das plataformas Vera Rubin e DSX. Segundo as informações divulgadas, a métrica busca medir a eficiência de sistemas de IA pela quantidade de tokens gerados em relação à energia consumida.
Ian Buck, vice-presidente de hyperscale e computação de alto desempenho da NVIDIA, falou sobre eficiência de fábricas de IA no evento realizado no Santa Clara Convention Center. O AI Infra Summit reuniu mais de 8 mil participantes neste ano, ante 3,5 mil no ano anterior, de acordo com os dados fornecidos pela NVIDIA.
