Engenheiro de software consegue rodar IA em um PowerBook G4, de 20 anos atrás

O engenheiro de software Andrew Rossignol publicou hoje em seu blog detalhes de como conseguiu rodar uma inteligência artificial generativa em um PowerBook G4, dispositivo de 2005!

Para isso, ele utilizou os chamados grandes modelos de linguagem (ou LLM, na sigla em inglês), capazes de reconhecer e gerar texto, realizando assim diferentes tarefas.

Geralmente, para rodar esses modelos, os dispositivos exigem altas especificações de hardware, mas o programador conseguiu executar o Llama 2 (da Meta) na sua máquina de 20 anos que possui um processador PowerPC G4 de 1,5GHz, 1GB de RAM ¹ e 32 bits.

Ele utilizou o código aberto llama2.c, que permite rodar a IA com um único arquivo — o que simplifica o processo. Depois, portou o programa para o PowerBook e utilizou uma extensão de vetor PowerPC chamada AltiVec para fazer melhorias nos códigos e acelerar o desempenho, sem alterar o algoritmo do seu núcleo.

Há algo incrivelmente satisfatório em dar vida nova a um hardware antigo. A computação vintage é um dos meus hobbies favoritos. O desafio de persuadir software moderno a sistemas projetados décadas atrás é um quebra-cabeça ao qual não consigo resistir.

Em seu post original no blog, é possível encontrar mais detalhes técnicos sobre o desenvolvimento do projeto.

via MacRumors

Notas de rodapé