As enormes necessidades de energia dos sistemas de IA estão colocando em destaque a sustentabilidade no ecossistema de semicondutores. A indústria de chips precisa ser capaz de produzir semicondutores mais eficientes e de menor potência. Mas a procura por uma maior velocidade de processamento está a aumentar com a utilização generalizada de grandes modelos de linguagem e o aumento global da quantidade de dados que precisam de ser processados. O Gartner estima que 50% das organizações adotarão monitoramento habilitado para sustentabilidade até 2026 para gerenciar métricas de consumo de energia e pegada de carbono para seus ambientes de nuvem híbrida. Isto é necessário, dado que 40% dos data centers provavelmente terão restrição de energia até 2027, de acordo com a empresa.
Os semicondutores podem ajudar na sustentabilidade se forem projetados corretamente. Isso é verdade mesmo para chips de IA/ML projetados para desempenho máximo, desde que possam realizar cálculos mais rapidamente usando algoritmos mais esparsos. Isso resulta em uma redução geral na quantidade de energia consumida. É aqui que os aceleradores personalizados entram em ação. Eles podem fornecer melhorias significativas em comparação com processadores de uso geral, muitas vezes trabalhando em conjunto.
A pegada crescente da IA
A computação está acontecendo em todos os lugares e precisa ser mais eficiente. Cidades inteligentes, infraestruturas inteligentes e transportes inteligentes não são possíveis sem tecnologia inteligente, e cada vez mais isso é possibilitado pela IA. À medida que a IA se torna mais arraigada, o ecossistema de semicondutores tenta minimizar o seu impacto nos recursos.
Os data centers atuais já consomem enormes quantidades de energia. Globalmente, são necessários 460 terawatts-hora (TWh) de eletricidade anualmente. Isso equivale a toda a quantidade de energia produzida pela Alemanha. Nos Estados Unidos, o consumo de eletricidade dos centros de dados foi de 2,5% do total dos EUA (~130 TWh) em 2022, e espera-se que triplique para 7,5% (~390 TWh) até 2030, de acordo com o Boston Consulting Group. Isso é o equivalente à eletricidade usada por cerca de 40 milhões de residências nos EUA, ou quase um terço do total de residências nos EUA.
“A IA tem potencial para superar todas as inovações transformadoras criadas no século passado”, disse Imran Yusuf, diretor de ecossistemas de hardware do Arm’s Infrastructure Group. "Mas as exigências de energia da computação de IA são significativas e, à medida que as empresas se apressam em desenvolver as suas capacidades de IA, correm o risco de ultrapassar as suas próprias metas de sustentabilidade. Os futuros modelos de IA continuarão a tornar-se maiores e mais inteligentes, alimentando a necessidade de mais computação, o que aumenta a procura de energia como parte de um ciclo virtuoso. Simplificando, sem electricidade, sem IA. Como podemos equilibrar a necessidade de electricidade com a necessidade de continuar a alimentar a revolução da IA. Sistemas de computação de IA."
Outros concordam. “Tudo se resume a ser mais eficiente no design”, disse Neil Hand, diretor de marketing da Siemens EDA. "Você pode olhar para qualquer algoritmo. Existem ordens de eficiência. A abordagem mais ineficiente do ponto de vista do poder é executar o código bruto em um processador de uso geral e deixá-lo funcionar - e brindar alguns marshmallows acima da CPU porque vai para ficar muito quente."
Um rack de servidores baseado em GPUs NVIDIA Grace Blackwell requer 120 quilowatts. Mas eles também são 1000 vezes mais capazes do que as gerações anteriores, o que equivale a 500 vezes mais computação por unidade de potência, de acordo com Rich Goldman, diretor da Ansys. "Se você construir um data center de CPUs e quiser fazer muita computação, poderá substituir as CPUs pelas GPUs mais recentes e reduzir o consumo de energia para os mesmos recursos de computação. Ainda teremos enormes problemas de energia, porque com a IA estamos fazendo mais computação, mas isso vai ajudar."
Hand vê o hardware especializado do tipo Grace Blackwell para IA como o próximo passo no desenvolvimento, mas acrescenta que muito mais pode ser feito porque esses ainda são chips de uso geral. Ele disse que é possível construir chips de IA mais eficientes, destinados a classificar e trabalhar com uma classificação ampla.
“Isso é o que vemos a NVIDIA fazendo, é isso que vemos o Google e muitos provedores de nuvem fazendo”, observou Hand. “Existem níveis de eficiência que podemos fazer para permitir que esses chips sejam produzidos de forma mais eficiente e para permitir tudo em torno da sustentabilidade que acompanha isso. Então, você pode dar um passo adiante com novas tecnologias que utilizam um modelo de IA totalmente treinado e convertê-lo em hardware. Isso será o mais eficiente possível e usará uma fração da energia. Você está preso nesse ponto, então terá que enfrentar o desafio que a IA está acelerando. e mudando tão rapidamente. Quanto você pode bloquear? Estamos vendo isso com os anúncios recentes da Intel e da Qualcomm em suas CPUs móveis, e a Apple tem feito isso há algumas gerações. qualquer rede neural que você queira ter no chip, e haverá esse continuum."
Steve Roddy, diretor de marketing da Quadric, concordou. "As forças que impulsionam a explosão dos modelos de IA/ML são enormes. A onda de IA generativa está mudando a maneira como indivíduos e empresas trabalham; possivelmente impactando milhões de empregos em todo o mundo. O ecossistema de semicondutores/EDA/IP não pode dobrar razoavelmente a curva de progresso na evolução de modelos massivos de IA que está sendo impulsionado anualmente por centenas de bilhões de dólares de investimento de titãs da tecnologia. Mas as indústrias de semicondutores e IP podem ajudar a mostrar o caminho para reduzir radicalmente a pegada de consumo de energia da operação diária desses modelos GenAI. - uso de inferência no dia a dia."
O maior desafio de sustentabilidade para a inferência GenAI é a conversão de modos em formatos quantizados inteiros com menor consumo de energia. "As equipes de ciência de dados que criam modelos GenAI aparentemente não percebem o fato de que os modelos de referência que publicam em formato de ponto flutuante consomem 10 vezes mais energia por inferência em comparação com o mesmo modelo convertido em formatos inteiros (comparando um ponto flutuante de 32b multiplicado-acumulado versus um 8 x 8 ou 4 x 8 MAC inteiro)", disse Roddy. "Quer a inferência aconteça no data center ou no dispositivo, a economia de energia - e os benefícios resultantes para a sustentabilidade - da conversão para formatos inteiros de menor consumo de energia são substanciais. Essa lacuna existe hoje porque os cientistas de dados que criam novos modelos GenAI são matemáticos, e não incorporados engenheiros."
Avanços tecnológicos
Quando a equipe de design decidir que é hora de mudar para o hardware, mesmo que os algoritmos de IA estejam avançando tão rapidamente, haverá uma certa estabilidade, disse Hand. "É um pouco como quando iniciamos a evolução das TPUs, NPUs, XPUs. Geralmente, eles não eram muito viáveis por um tempo porque os principais blocos de construção estavam mudando com mais regularidade. Mas, nos últimos anos, essas funcionalidades principais estabilizaram para que agora você possa criar hardware mais eficiente em termos de energia. Será o mesmo aqui, à medida que as coisas começarem a se estabilizar. Sempre haverá novas inovações. Sempre haverá algoritmos muito mais poderosos que precisam de novo hardware. provavelmente sempre acabaremos usando mais do que dizemos, porque os data centers são grandes consumidores de energia, mas o que eles compensam? Essa é a questão do ponto de vista da produtividade. Eles estão nos permitindo fazer coisas que de outra forma não conseguiríamos? Mas muito disso é apenas um chip de IA complexo ou qualquer tipo de chip complexo. Os aspectos do EDA são praticamente os mesmos.
Outra consideração é como gerar energia suficiente para o data center. Como colocar esses data centers em locais onde não há energia suficiente? “Veremos centros de dados com mais frequência em locais com excedente de energia, e os países com excedente de energia tornar-se-ão centros de centros de dados”, disse Goldman. "Eles localizarão o data center lá e depois produzirão o conhecimento que você obtém desse poder."
Isso será acompanhado por novas e inovadoras fontes de poder. “Ouvimos falar de miniusinas nucleares para alimentar centros de dados individuais e de aplicações como colocá-las no topo de poços de petróleo para que o metano que agora está indo para o ar e poluindo o ar, possamos queimá-lo e criar energia a partir de aqueles para administrar os data centers", disse Goldman. “Temos que criar algo novo como esse para alimentar esses data centers.”
Parte integrante da discussão sobre sustentabilidade da IA é a eficiência do data center, onde existe um conflito contínuo entre a energia necessária para mover os dados e até onde esses dados realmente precisam se mover. “Vemos pessoas construindo processadores muito grandes a partir de chips, e parte disso é porque, embora saibam que poderiam construir um sistema equivalente a partir de dois chips conectados por um barramento, mas mover os dados entre eles vai custar muito caro. de poder", explicou Steven Woo, colega e ilustre inventor da Rambus. "Quanto mais você reúne as coisas, menos distância os dados precisam percorrer e menos energia você gasta movendo os dados. Mas o problema é que a densidade de energia aumenta. Você precisa fornecer mais energia e precisa esfrie a coisa. Então, o cabo de guerra é: como faço para resfriar essa coisa? Estou economizando um pouco de energia por não deixar os chips distantes um do outro, mas agora ele precisa fornecer mais energia para esse volume, e você? tenho que esfriar isso. Esse é o cabo de guerra que os arquitetos de nível de sistema enfrentam agora."
No nível do data center, há um uso crescente de técnicas avançadas de resfriamento em servidores. “Mais pessoas estão falando sobre refrigeração líquida, incluindo placas frias”, disse Woo. “O Google tem feito isso e a NVIDIA tem falado sobre isso para Grace Blackwell. Essa é a tecnologia que alguns dos supercomputadores usam hoje, e não é uma tecnologia estrangeira ou nova. Provavelmente haverá alguns sistemas resfriados a ar em um futuro próximo, mas você verá mais sistemas adotando algum tipo de líquido bombeado com um sistema de resfriamento bifásico."
No extremo desta abordagem está o resfriamento por imersão. “Esta pode não ser uma solução viável de resfriamento de servidor de data center tão cedo, mas pode ser se ficarmos sem pista para os líquidos canalizados”, acrescentou. "Quando você conseguir gerenciar o calor com um líquido, ou algo parecido, poderá limitar a faixa de temperatura pela qual um chip passa, o que significa que, se ele fizer um ciclo térmico, poderá não atingir temperaturas extremas. Isso é bom , porque então você não tem expansão e contração térmica nessa faixa maior, e algumas das outras falhas relacionadas à confiabilidade são amenizadas um pouco."
A análise de big data também desempenha um papel na sustentabilidade, identificando tendências no design de chips com base no uso do data center. “Há todo um trem de poder”, disse Adam Cron, ilustre arquiteto da Synopsys. "As preocupações estão no nível da matriz. Então você tem a placa em que está, o rack em que está, o farm em que está, e então tudo volta para as linhas de transmissão. E o que os gerentes de data center gostam de ver é um quilha bonita e uniforme. Não balance muito o barco, porque se você quiser muito aqui, pode ter que descer ali, ou vice-versa.
Idealmente, a energia seria reduzida em todos os lugares. “Os data centers estão usando entre 1 e 2% da eletricidade mundial e estão em um curso intensivo para usar tudo”, disse Cron.
Links de rendimento e capacidade de fabricação
Há uma ligação interessante entre o esforço para fabricar semicondutores sustentáveis e o rendimento e a capacidade de fabricação, observou Hand, da Siemens. "Esses chips estão ficando maiores. Portanto, o rendimento se torna um problema maior. Quanto mais pudermos fazer com o rendimento, melhor poderemos ser para a sustentabilidade, porque um dado morto é um desperdício de recursos. Um dado bom é sempre uma coisa melhor .O que podemos fazer lá? Há muito trabalho que fazemos no ecossistema de semicondutores EDA para melhorar o rendimento. Ironicamente, algumas delas usam IA. Certas soluções de fabricação comercial usam IA para obter melhor rendimento, e é uma interação fascinante entre eles. o custo de sustentabilidade da IA e a oportunidade de sustentabilidade da IA e como eles funcionam juntos De modo geral, é um resultado positivo. Mas como você mede isso, não sei se é possível, porque é difícil encontrar os dados brutos disso. diz quanto custa treinar esses modelos. É caro usá-los. Mas como você mede os insights? Isso provavelmente vale um trabalho de doutorado para tentar calcular esse impacto. e as tecnologias de IA podem ser aproveitadas aqui. É apenas a EDA fazendo sua coisa de EDA."
A análise térmica e o envelhecimento também contribuirão para a sustentabilidade dos data centers de IA. Isto não é exclusivo da IA, é claro. Isso se aplica a todos os chips", disse Hand. "Você pode começar a entender quais são as térmicas no nível da matriz, no nível da sub-matriz, para entender as implicações. Agora, posso montar uma pilha 3D e torná-la confiável? Posso operar essas coisas com um nível de potência suficiente para não acelerar seu desaparecimento? Estas capacidades permitir-nos-ão ir ainda mais longe. Além disso, à medida que começamos a expandir a definição do gêmeo digital e a expandir o que está incluído nele, você pode começar a ver os impactos no nível do sistema. E embora não seja específico da IA e da sustentabilidade, é aqui que começaremos a ver grandes saltos na eficiência, porque até que ponto existe excesso de engenharia neste momento? Quanto tem muito desperdício dentro dele? Assim que pudermos começar a ter um design mais consistente no nível do produto e no nível do problema, isso também trará benefícios. Trazendo isso especificamente para a IA, para chegar a verdadeiros gêmeos digitais abrangentes de vários domínios, a IA será necessária porque a IA fará a análise de domínio cruzado para você e a extração do modelo substituto e a adaptação automática de fidelidade. Haverá tudo isso. Quanto mais IA precisamos, mais IA usamos."
Conclusão
Sustentabilidade não é um tema novo, mas sempre foi tema para discussões futuras. Esse não é mais o caso.
“Os fornecedores de hardware e software entenderam há anos que o dimensionamento da computação e a sustentabilidade podem estar em rota de colisão com a realidade, mas não precisam estar se a indústria aproveitar as capacidades de seu ecossistema”, disse Yusuf da Arm. "Veja o Arm Total Design, por exemplo, que é um ecossistema de empresas líderes de toda a indústria de semicondutores dedicadas a permitir soluções de silício personalizadas e eficientes para casos de uso de IA/ML. Como tal, fornece aos parceiros acesso preferencial aos subsistemas de computação Arm Neoverse (CSS), ferramentas IP e EDA pré-integradas, serviços de design, suporte de fundição e suporte de software comercial. Também representa uma nova mentalidade que promove a colaboração, flexibilidade e inovação, ao mesmo tempo que compreende que a era da IA precisa coexistir. com objetivos globais de sustentabilidade."
O que mudou é que a sustentabilidade passou de “bom ter” para “obrigatório”. Da sua perspectiva como líder do setor, a Intel criou Sete dicas para usar IA sem o alto custo ambiental. Além disso, a Intel acredita que ser intencional na forma como a IA é implementada no design é fundamental para atingir as metas de sustentabilidade. Com intencionalidade, aqueles que executam iniciativas de IA podem colher os benefícios de cargas de trabalho otimizadas (veja aqui para mais informações), e uma abordagem proativa para design de projetos e gerenciamento de TI é fundamental para maximizar o impacto das iniciativas de IA e minimizar a pegada de carbono (veja aqui para mais casos de uso).
Fundamentalmente, a diminuição do impacto da IA na sustentabilidade dependerá da própria tecnologia. Roddy, da Quadric, disse que o ecossistema de semicondutores pode ajudar "aumentando a consciência geral da necessidade de usar formatos de dados de menor precisão, bem como construindo ferramentas mais automatizadas para preencher a lacuna entre o matemático e o engenheiro integrado".
