Huawei Flex:ai otimiza chips IA em meio à escassez
A Huawei lançou o Flex:ai, uma nova solução de software de código aberto projetada para otimizar o uso de chips de Inteligência Artificial (IA) em um cenário de escassez global. A ferramenta visa aumentar a eficiência dos recursos de hardware existentes, permitindo que empresas e desenvolvedores aproveitem ao máximo a capacidade de processamento disponível.
Contexto da Escassez de Chips de IA
A escassez de chips de IA é um problema crescente, impulsionado pela alta demanda por poder computacional para aplicações de IA e pelas restrições de exportação de hardware avançado para a China. Essas restrições forçam a indústria chinesa a buscar alternativas para otimizar o uso dos recursos disponíveis.
Veja também:
O que é o Flex:ai?
O Flex:ai é uma ferramenta de orquestração de código aberto que visa aumentar a eficiência dos recursos de hardware. Ele se baseia no Kubernetes e é distribuído por meio do ModelEngine. O software promete aumentar o uso médio de hardware em 30%.
Como o Flex:ai funciona?
O Flex:ai funciona gerenciando as cargas de trabalho de forma dinâmica. Tarefas menores são empilhadas lado a lado na mesma placa e o sistema Hi Scheduler redistribui recursos em tempo real, alocando poder computacional ocioso onde houver cargas de trabalho de IA.
Em outras palavras, o Flex:ai utiliza uma técnica de fatiamento, que separa NPUs individuais em múltiplas instâncias virtuais de computação. O software amplia as capacidades do Kubernetes ao integrar suporte a hardwares distintos, operando tanto em GPUs padrão quanto em NPUs da série Ascend.
Otimização e Arquitetura
O Flex:ai atua como uma camada de orquestração que se baseia no Kubernetes, uma plataforma de código aberto amplamente utilizada para gerenciar cargas de trabalho e serviços em contêineres. A principal inovação do Flex:ai reside em sua capacidade de:
- Fatiamento de Chips: O software consegue dividir GPUs ou NPUs individuais em múltiplas instâncias de computação virtuais, permitindo que diferentes cargas de trabalho de IA compartilhem o mesmo recurso físico de forma mais eficiente.
- Orquestração Heterogênea: O Flex:ai é capaz de gerenciar e orquestrar cargas de trabalho em diferentes tipos de hardware, incluindo as NPUs Ascend da própria Huawei, juntamente com GPUs padrão.
Impacto e Benefícios
Ao otimizar a alocação e o agendamento de tarefas, a Huawei afirma que o Flex:ai pode aumentar a taxa de utilização de chips de IA, que atualmente gira em torno de 35% em média, para até 70%. Essa melhoria é crucial, pois permite que a infraestrutura existente da Huawei, baseada em seus chips Ascend, entregue um desempenho significativamente maior sem a necessidade de hardware adicional.
A Huawei também acredita que o Flex:ai pode ajudar a China a criar um chip para IA análogo “1.000 vezes mais rápido” ao que a NVIDIA oferece. O software é open source e foi feito para aproveitar melhor o potencial de aceleradores já disponíveis no segmento.
Disponibilidade
O Flex:ai foi anunciado, mas ainda não está disponível. Portanto, não há informações de testes de terceiros sobre suas vantagens e a Huawei não ofereceu comparativos de benchmark.
Conclusão
O Flex:ai representa uma abordagem inovadora para lidar com a escassez de chips de IA, permitindo que empresas e desenvolvedores maximizem o uso de seus recursos de hardware existentes. Ao otimizar a alocação de tarefas e suportar diferentes tipos de hardware, o Flex:ai tem o potencial de impulsionar o desenvolvimento de aplicações de IA mais eficientes e acessíveis.