Der Beweis: KI läuft auf 20 Jahre altem Apple PowerBook G4

Ein Entwickler hat ein KI-Experiment mit einem alten PowerBook gestartet. Er schaffte Außergewöhnliches.

Ihr könnt KI sogar auf einem 20 Jahre alten PowerBook G4 zum Laufen bringen – wenn ihr genug Ehrgeiz mitbringt.

Das beweist der Retro-Computing-Enthusiast Andrew Rossignol, der das Llama2-Modell auf seinem 2005er Mac mit 1,5-GHz-CPU und 1 GB RAM zum Leben erweckt hat. Der Trick: Eine modifizierte Version von llama2.c, die komplett auf C-Code setzt und keine Grafikkarte benötigt.

Was war sein größtes Hindernis?

Die PowerPC-7447B-CPU arbeitet mit Big-Endian-Speicherarchitektur – modernes KI-Training läuft auf Little-Endian-Systemen. Die Lösung: Ein eigens geschriebener Konverter, der die Modelldateien Byte für Byte umdreht.

Zusätzlich optimierte der Tüftler den Code für die 32-Bit-Umgebung und ersetzte Speicherzuweisungen durch manuelles Kopieren, um die 4-GB-Adresslimit zu umgehen.

Extrem langsame Ausführung

Mit dem TinyStories-110M-Modell generiert der Oldtimer nun Kindergeschichten – wenn auch langsam. Während ein moderner Xeon-Server 6,91 Tokens/Sekunde schafft, bringt es das PowerBook auf magere 0,77 Tokens/Sekunde.

Dank AltiVec-SIMD-Befehlen (Vorläufer heutiger AVX) ließ sich die Geschwindigkeit immerhin um 30 Sekunden pro Anfrage steigern.

Spannend für Coder

Der umgebaute Ullm-Code nutzt Callbacks für Token-Ausgaben und eine Library-API, die sich einfach testen lässt. So überprüfte der Entwickler, ob die KI auf beiden Architekturen identische Texte ausspuckt.

Doch Grenzen gibt’s auch. Größere Modelle wie Llama2-7B passen nicht in den 32-Bit-Speicher. Bleibt die Erkenntnis: Selbst antike Hardware kann Künstliche Intelligenz schlucken – wenn man sie mit Code-Alchemie füttert…

Sale

Apple iPhone 16 Pro Max 256 GB: 5G Handy mit Kamerasteuerung, 4K 120 Dolby Vision und einem großen Sprung bei der Batterielaufzeit. Funktioniert mit AirPods, Titan Weiß

RECHTLICHE HINWEISE – Dies ist eine Zusammenfassung der wichtigsten Produktfeatures.

1.449,00 EUR −181,00 EUR 1.268,00 EUR

Sale

Apple iPhone 15 (128 GB) - Blau

849,00 EUR −110,00 EUR 739,00 EUR

Sale

Xiaomi Electric Scooter 4 Pro 2nd Edition (DE) Faltbarer E-Scooter mit Straßenzulassung und max. 20km/h – bis zu 60km Reichweite, Duales Bremssystem, LED-Display & Blinker, App-Einstellungen

549,99 EUR −150,99 EUR 399,00 EUR

Sale

DJI Mini 4 Pro Fly More Combo mit DJI RC 2 Fernsteuerung inkl. Care Refresh 1-Jahres-Schutzpaket, faltbare Mini-Drohne mit 4K-Kamera, unter 249g, 34 Minuten Flugzeit, 2 zusätzliche Akkus, Klasse-C0

1.214,00 EUR −185,00 EUR 1.029,00 EUR

Sale

Apple iPhone 16 256 GB: 5G Handy mit Kamerasteuerung, A18 Chip und einem echten Boost für die Batterie. Funktioniert mit AirPods, Weiß

RECHTLICHE HINWEISE – Dies ist eine Zusammenfassung der wichtigsten Produktfeatures.

1.079,00 EUR −137,50 EUR 941,50 EUR

In diesem Artikel sind Partner-Links enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet Ihr Euch für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für Euch ändert sich am Preis nichts. Danke für Eure Unterstützung. Foto: Apple, via The Resistor Network