Press "Enter" to skip to content

iPhone 17 Pro roda uma IA de 400B

A computação móvel acaba de desafiar as leis da física digital com uma proeza técnica impressionante no iPhone 17 Pro. O dispositivo conseguiu executar localmente o modelo Qwen 3.5 397B, algo teoricamente impossível para apenas 12GB de memória RAM.

Engenheiros e entusiastas acompanham boquiabertos o uso do motor Flash-MoE, que utiliza o armazenamento SSD como extensão da memória unificada. A abordagem quebra o paradigma de que modelos colossais dependem exclusivamente de supercomputadores ou nuvens privadas.

O horizonte da inteligência artificial se transforma ao priorizar a soberania dos dados dentro do próprio bolso do usuário. Rodar sistemas de 400 bilhões de parâmetros em um celular sinaliza o fim da dependência absoluta de servidores externos.

 

A mágica por trás do motor Flash-MoE

O desenvolvedor Daniel Woods surpreendeu a comunidade ao publicar o código aberto de um motor de inferência focado em eficiência extrema. Inspirado em pesquisas da própria Apple, o sistema permite que o processamento flua através de unidades de armazenamento ultrarrápidas.

Especialistas notaram que, embora a velocidade de 0,6 tokens por segundo seja baixa, a viabilidade técnica é o verdadeiro marco histórico. Otimizações recentes já elevaram esse desempenho para 1,1 tokens, sacrificando uma parcela mínima de precisão na resposta.

O simples fato dessa proeza ser registrada é mais uma prova do poderio do processador da Apple nesse dispositivo. Um sinal claro de toda a competência da gigante de Cupertino em relação ao seu produto.

Mas… espere. Tem mais.

 

O fim da tirania da memória RAM

Dispositivos que antes eram limitados por poucos gigabytes de memória unificada agora ganham uma sobrevida inesperada para tarefas complexas. O uso de drives PCIe 5.0 e SSDs de alta performance atua como um pulmão extra para o processador.

Investimentos pesados em hardware de elite, como Macs de valores exorbitantes, podem se tornar opcionais para rodar grandes modelos. Máquinas modestas equipadas com armazenamento ágil conseguem entregar resultados robustos, democratizando o acesso à IA de ponta.

Ou seja, da mesma forma que temos que aplaudir a Apple por ser tecnicamente competente, a empresa também deve ser ponto de críticas e observações.

Afinal de contas, ela dá a entender que dispositivos diferentes contam com potenciais técnicos diferentes, e o que estamos testemunhando aqui é um iPhone Pro tão potente, que tal perspectiva se mostra um pouco diferente da realidade prática.

 

Privacidade e o futuro do processamento local

Manter as interações e dados confidenciais dentro do hardware pessoal é a maior vantagem dessa nova metodologia de execução. Ao evitar o envio de prompts para servidores de terceiros, o usuário retoma o controle total sobre sua intimidade digital.

Rumores indicam que essa tecnologia poderá ser integrada nativamente em futuras atualizações do sistema operacional da Apple para otimizar a Siri. A promessa de uma IA potente, privada e offline nunca esteve tão próxima de se tornar o padrão de mercado.

É importante reforçar que o experimento fez uma inteligência artificial pesada rodar de forma nativa em um smartphone. E isso é exatamente o mesmo que a Apple insiste em querer no Apple Intelligence a algum tempo.

Podemos concluir com o experimento que essa passa bem longe de ser uma tarefa fácil para a gigante de Cupertino, mas o caminho está pavimentado. Não sabemos quanto tempo vai levar para tudo funcionar do jeito que a Apple quer, mas é certo que deve acontecer em um futuro a médio e longo prazos.