A Microsoft apresentou recentemente o Copilot+, a sua versão da Inteligência Artificial integrada nos computadores com Windows 11. E um dos requisitos para que os PCs possam suportar essa tecnologia é contar com um processador com NPU e, pelo menos, 40 TOPS.
A TOPS é uma unidade de medida necessária para o desenvolvimento de novos algoritmos e arquiteturas em redes neurais, permitindo simulações e experimentações com modelos avançados.
Essa medida é utilizada por fabricantes para especificar o desempenho de dispositivos de computação de alta performance voltados para aplicações de IA. E a partir de agora, vamos explicar melhor o que é a TOPS e como ela vai influenciar nos computadores a partir de agora.
Definição de TOPS
TOPS (Tera Operations Per Second, ou Tera Operações Por Segundo) é uma unidade de medida que quantifica o desempenho de sistemas de computação voltados para inteligência artificial (IA).
De forma mais específica, ela mede a capacidade de realizar trilhões de operações de ponto flutuante por segundo, avaliando a performance de processadores dedicados a IA.
A métrica TOPS é frequentemente utilizada para descrever a potência dos computadores ao executar modelos de IA, influenciando diretamente a velocidade de resposta das aplicações.
Quanto maior o número de TOPS, mais rápido o sistema pode processar algoritmos complexos de IA, como são os casos do Copilot+ da Microsoft, o ChatGPT da OpenAI e o Gemini do Google.
Relação entre TOPS e Unidades de Processamento Neural (NPU)
Para que um computador, smartphone ou qualquer equipamento informático trabalhe com a Inteligência Artificial generativa em modo nativo ou offline, é necessário trabalhar com uma quantidade absurda de dados ao mesmo tempo.
E neste momento, a forma mais viável para isso acontecer é instalando um chip dedicado para essa tarefa.
As NPUs são processadores especializados em funções de IA, executando operações em redes neurais, manipulando essa enorme quantidade de dados em frações de segundo.
O desempenho das NPUs é frequentemente avaliado em termos de TOPS, facilitando comparações entre diferentes modelos e gerações de processadores.
Tenha em mente que o processador do seu notebook, por melhor que ele seja neste momento, não dá conta da demanda de dados para que uma IA funcione de forma adequada.
Aliás, este é o maior desafio de toda a indústria tecnológica: estabelecer o equilíbrio entre o desempenho do hardware com o número de processos simultâneos e, ao mesmo tempo, não destruir a autonomia de bateria do dispositivo em questão.
O treinamento de grandes modelos de IA exige uma enorme quantidade de cálculos, sendo os TOPS uma métrica importante para medir a eficiência e a velocidade desse processo.
Computadores com alto desempenho em TOPS podem acelerar significativamente o treinamento de modelos complexos, embora tais capacidades ainda estejam além do alcance de computadores domésticos comuns.
E é justamente por isso que nasceu a nova geração de processadores Snapdragon X da Qualcomm, dedicados a trabalhar com os TOPS sem sacrificar o desempenho geral do equipamento.
Com o passar do tempo, é de se imaginar que Intel e AMD apresentem suas soluções compatíveis com o Copilot+ no Windows. Mas neste momento, apenas a Qualcomm alcançou esse nível de excelência.
Nos dispositivos móveis, a Qualcomm também está na frente, já que o Snapdragon 8 Gen 3 também conta com uma NPU para algumas IAs, como é o caso da Galaxy AI (com Gemini Nano) do Galaxy S24 Ultra.
Por tudo isso, vá se acostumando com a sigla TOPS na sua vida, pois ela será uma constante no mundo da tecnologia.
Tudo é IA a partir de agora. Não tem como escapar disso.