Ein KI-Benchmark kann auf demselben Gerät völlig unterschiedlich ausfallen – je nachdem, ob die Berechnung über die CPU, eine NPU oder ein spezialisiertes Backend läuft. Genau das zeigen eigene Messungen mit dem 13-Zoll-iPad Pro mit Apple M4 und dem Samsung Galaxy S26 Ultra.
Beim iPad steigt der Quantized Score von 6.773 auf 54.700, sobald statt der CPU die Neural Engine arbeitet. Beim Galaxy S26 Ultra wächst derselbe Wert von 6.938 auf 80.848, wenn QNN verwendet wird. Trotzdem wäre es falsch, daraus einfach abzuleiten, dass ein Gerät generell die bessere KI-Leistung besitzt.
Was ist Geekbench AI?
Geekbench AI ist ein plattformübergreifender Benchmark für lokale KI-Berechnungen. Anders als ein klassischer CPU-Test prüft die Anwendung mehrere typische Aufgaben aus dem maschinellen Lernen, darunter Bildklassifikation, Objekterkennung, Segmentierung, Tiefenschätzung, Super-Resolution, Stilübertragung und Textverarbeitung.
Die Ergebnisse werden in drei Hauptkategorien zusammengefasst: Single Precision, Half Precision und Quantized. Zusätzlich kann Geekbench AI je nach Gerät und Betriebssystem unterschiedliche Frameworks und Backends verwenden. Auf Apple-Geräten kommt beispielsweise Core ML zum Einsatz, während Android-Geräte unter anderem TensorFlow Lite und auf Snapdragon-Plattformen QNN nutzen können.
Diese Auswahl ist entscheidend. Ein CPU-Test beantwortet eine andere Frage als ein NPU-Test. Die CPU zeigt, wie das Gerät allgemeine KI-Berechnungen ohne dedizierte Beschleunigung bewältigt. Ein NPU- oder Neural-Engine-Test zeigt dagegen, wie gut spezialisierte Hardware für bestimmte neuronale Netze arbeitet.
Geekbench AI veröffentlicht deshalb nicht nur einen einzigen Gesamtwert. Die drei Scores sind jeweils zusammengefasste Ergebnisse aus mehreren Workloads. Ein hoher Quantized Score bedeutet nicht automatisch, dass ein Gerät bei FP32-Modellen ebenfalls schnell ist.
Single Precision, Half Precision und Quantized verständlich erklärt
Single Precision: FP32
Single Precision entspricht im Wesentlichen FP32, also einer Gleitkommadarstellung mit 32 Bit. Sie bietet eine hohe numerische Genauigkeit und wird häufig als Referenz für anspruchsvollere Berechnungen verwendet.
FP32 benötigt mehr Speicher und Bandbreite als kompaktere Formate. Dadurch ist dieses Rechenformat für mobile Beschleuniger oft weniger effizient. Es kann aber bei Modellen wichtig sein, bei denen Rundungsfehler die Qualität des Ergebnisses stärker beeinflussen.
Half Precision: FP16
Half Precision nutzt 16 Bit statt 32 Bit. Das reduziert den Speicherbedarf und kann die Verarbeitung deutlich beschleunigen. Viele moderne GPUs und NPUs sind besonders gut auf FP16-Workloads vorbereitet.
Die geringere Genauigkeit muss nicht automatisch ein sichtbarer Nachteil sein. Bei vielen neuronalen Netzen reicht FP16 für die praktische Nutzung aus. Ob das Ergebnis tatsächlich gleichwertig bleibt, hängt jedoch vom jeweiligen Modell und der Aufgabe ab.
Quantized: komprimierte KI-Modelle
Quantized steht für quantisierte Modelle. Dabei werden Gewichte und teilweise auch Aktivierungen mit kleineren Zahlenformaten verarbeitet, häufig mit 8 Bit oder vergleichbaren Darstellungen. In der Praxis wird oft von INT8 gesprochen, obwohl die genaue technische Umsetzung vom Modell und Framework abhängt.
Der Vorteil liegt im deutlich geringeren Speicherbedarf. Ein kleineres Modell benötigt weniger Datenbewegungen und kann auf mobilen Beschleunigern effizienter laufen. Das senkt häufig auch den Energiebedarf und verbessert die Eignung für lokale KI-Funktionen auf Smartphones und Tablets.
Quantisierung ist trotzdem kein kostenloser Vorteil. Je nach Modell kann die Genauigkeit sinken. Geekbench AI berücksichtigt deshalb neben der Geschwindigkeit auch die Qualität der errechneten Ergebnisse. Ein sehr hoher Wert ist nur dann sinnvoll, wenn die Genauigkeit für die jeweilige Aufgabe ausreichend bleibt.
Meine Testgeräte und Testbedingungen
Die folgenden Ergebnisse stammen aus eigenen Praxismessungen mit Geekbench AI 1.7.0. Verglichen werden nicht zufällige Datenbankwerte, sondern die jeweils dokumentierten Scores der beiden Geräte und der verwendeten Backends.
| Merkmal | iPad Pro 13 Zoll | Samsung Galaxy S26 Ultra |
|---|---|---|
| Prozessorplattform | Apple M4 | Modell SM-S948B |
| Betriebssystem | iOS 26.6.1 | Android 16 |
| Geekbench-Version | Geekbench AI 1.7.0 | Geekbench AI 1.7.0 |
| Framework | Core ML | TensorFlow Lite |
| Verglichene Backends | CPU und Neural Engine | CPU und QNN |
Die gemeinsame Benchmark-Version ist besonders wichtig. Geekbench AI 1.7 kann auf aktuellen Android-Geräten andere Framework- und Kompatibilitätsanpassungen enthalten als ältere Versionen. Werte aus Geekbench AI 1.6 oder früher sollten deshalb nicht ohne Einschränkung mit den hier genannten Ergebnissen vermischt werden.
iPad Pro M4: CPU gegen Neural Engine
| Test | CPU | Neural Engine | Unterschied |
|---|---|---|---|
| Single Precision | 5.121 | 5.097 | CPU rund 0,5 % höher |
| Half Precision | 8.510 | 38.876 | Neural Engine rund 356,7 % höher |
| Quantized | 6.773 | 54.700 | Neural Engine rund 707,6 % höher |
Beim Single Precision Score liegen beide Werte praktisch gleichauf. Die CPU erreicht 5.121 Punkte, die Neural Engine 5.097. Daraus lässt sich nicht ableiten, dass die Neural Engine nutzlos wäre. Vielmehr zeigt der Wert, dass der konkrete FP32-Workload in dieser Konfiguration offenbar keinen großen Vorteil aus diesem Backend zieht.
Bei Half Precision verändert sich das Bild deutlich. Die Neural Engine erreicht 38.876 Punkte und liegt damit ungefähr 4,6-mal über dem CPU-Wert von 8.510. Bei Quantized steigt der Score sogar von 6.773 auf 54.700. Das entspricht ungefähr dem 8,1-Fachen.
Die Neural Engine ist auf genau solche spezialisierten Matrix- und Tensorberechnungen ausgelegt. Sie arbeitet nicht wie eine allgemeine CPU, sondern nutzt einen Hardwarepfad, der für bestimmte neuronale Netze und kompakte Rechenformate optimiert ist. Das erklärt, warum der Vorsprung bei FP16 und Quantized wesentlich größer ausfällt als bei FP32.
Galaxy S26 Ultra: CPU gegen QNN
| Test | CPU | QNN | Unterschied |
|---|---|---|---|
| Single Precision | 2.837 | 738 | QNN rund 74,0 % niedriger |
| Half Precision | 4.734 | 32.021 | QNN rund 576,4 % höher |
| Quantized | 6.938 | 80.848 | QNN rund 1.065,3 % höher |
Das Galaxy S26 Ultra zeigt ein noch stärker formatabhängiges Verhalten. Der QNN-Wert bei Single Precision liegt mit 738 deutlich unter dem CPU-Ergebnis von 2.837. Bei Half Precision steigt der Score dagegen auf 32.021. Das ist rund 6,8-mal mehr als bei der CPU.
Am auffälligsten ist Quantized. Die CPU erreicht 6.938 Punkte, QNN kommt auf 80.848. Damit arbeitet der QNN-Test ungefähr 11,7-mal schneller als der CPU-Test. Der prozentuale Abstand beträgt rund 1.065 Prozent.
Das bedeutet nicht, dass QNN bei KI generell schlecht mit FP32 umgehen würde oder dass der Snapdragon-Chip keine leistungsfähige KI-Hardware besitzt. QNN ist ein Qualcomm-Framework, das den Zugriff auf bestimmte Beschleuniger ermöglicht. Diese Beschleuniger sind besonders dann interessant, wenn Modell, Datenformat und unterstützte Operatoren zum Hardwarepfad passen.
iPad Pro M4 Neural Engine gegen Galaxy S26 Ultra QNN
Für einen direkten Vergleich der jeweils spezialisierten Backends ergeben sich folgende Werte:
| Rechenformat | iPad Pro M4 Neural Engine | Galaxy S26 Ultra QNN | Vorsprung |
|---|---|---|---|
| Single Precision | 5.097 | 738 | iPad rund 590,7 % höher |
| Half Precision | 38.876 | 32.021 | iPad rund 21,4 % höher |
| Quantized | 54.700 | 80.848 | Samsung rund 47,8 % höher |
Bei Single Precision liegt die Neural Engine des iPad Pro M4 in diesen Messungen deutlich vor dem QNN-Ergebnis des Galaxy S26 Ultra. Bei Half Precision beträgt der Vorsprung des iPad rund 21 Prozent. Bei Quantized dreht sich das Verhältnis jedoch um: Das Samsung liegt etwa 48 Prozent vorne.
Diese Ergebnisse sind ein gutes Beispiel dafür, warum eine pauschale Aussage wie „Samsung hat die bessere KI“ oder „Apple ist bei KI schneller“ technisch zu grob wäre. Beide Aussagen würden wichtige Informationen unterschlagen. Je nach Rechenformat und Backend wechselt der Sieger.
Was sind QNN, NNAPI und Core ML?
QNN auf Qualcomm-Geräten
QNN steht für Qualcomm Neural Network. Das Framework gehört zum Qualcomm AI Stack und kann Anwendungen mit den spezialisierten Recheneinheiten einer Snapdragon-Plattform verbinden. Dazu zählen je nach Gerät unter anderem CPU, GPU und Hexagon-basierte KI-Beschleuniger.
QNN ist deshalb mehr als ein allgemeiner Android-Schalter. Es stellt einen hardware- und herstellerspezifischen Pfad bereit. Ob dieser Pfad besonders schnell ist, hängt davon ab, welche Operatoren, Datentypen und Modellstrukturen unterstützt werden.
NNAPI unter Android
NNAPI steht für Android Neural Networks API. Die Schnittstelle dient als Abstraktion zwischen einer Anwendung und den verfügbaren Hardwarebeschleunigern. Eine App muss dadurch nicht für jedes Smartphone einen völlig eigenen Zugriffspfad implementieren.
NNAPI und QNN sind daher nicht dasselbe. NNAPI ist eine Android-Schnittstelle, während QNN ein Qualcomm-spezifischer Bestandteil des AI Stacks ist. Ein Gerät kann über NNAPI einen geeigneten Beschleuniger ansprechen, während QNN einen direkteren oder anders optimierten Pfad zum Qualcomm-System bereitstellt.
Core ML und die Apple Neural Engine
Core ML ist Apples Machine-Learning-Framework. Es kann Modelle je nach Konfiguration und unterstützten Operationen auf CPU, GPU und Neural Engine verteilen. Bei manchen Modellen kann die Ausführung sogar zwischen mehreren Einheiten aufgeteilt werden.
Die Auswahl „Neural Engine“ in Geekbench AI ist deshalb nicht mit einem vollständig isolierten, universellen Hardwaretest gleichzusetzen. Auch Treiber, Modellkonvertierung, unterstützte Operatoren und die Core-ML-Laufzeit beeinflussen das Ergebnis.
Welches Backend sollte ich bei Geekbench AI wählen?
Für einen sinnvollen Gerätetest sollte nicht nur das schnellste Ergebnis gesucht werden. Entscheidend ist, welche Frage der Benchmark beantworten soll.
- Snapdragon-Geräte: zuerst CPU und QNN testen. NNAPI oder GPU eignen sich als zusätzliche Vergleichswerte.
- Apple-Geräte: CPU, GPU und Neural Engine getrennt dokumentieren, sofern Geekbench AI diese Optionen anbietet.
- Android allgemein: Framework und Backend immer zusammen mit dem Score notieren.
- Gerätevergleich: gleiche Geekbench-AI-Version, gleiche Score-Kategorie und möglichst vergleichbare Backend-Klassen verwenden.
Für einen Alltagstest kann das Standard-Backend sinnvoll sein, weil es eher zeigt, welchen Pfad die Anwendung unter normalen Bedingungen nutzt. Für eine Hardwareanalyse sind getrennte Tests hilfreicher. Dann wird sichtbar, wie viel Leistung die CPU liefert und welchen zusätzlichen Nutzen die NPU oder Neural Engine bringt.
CPU, GPU, NPU, QNN und NNAPI im Vergleich
| Einheit oder Schnittstelle | Aufgabe | Stärke | Mögliche Einschränkung |
|---|---|---|---|
| CPU | Allgemeine Berechnungen und flexible Ausführung | Kompatibel mit vielen Modelltypen | Bei spezialisierten KI-Workloads oft weniger effizient |
| GPU | Parallele Berechnungen | Hoher Durchsatz bei geeigneten FP16-Workloads | Kann mehr Energie benötigen und nicht jeden Operator optimal unterstützen |
| NPU | Spezialisierte neuronale Berechnungen | Hohe Effizienz bei passenden Modellen | Stark abhängig von Modell, Compiler und Datentyp |
| Apple Neural Engine | Apple-spezifische KI-Beschleunigung über Core ML | Sehr hohe Werte bei passenden FP16- und Quantized-Workloads | Nicht jeder Benchmarkpfad nutzt sie gleich gut |
| QNN | Qualcomm-Framework für KI-Ausführung | Kann Snapdragon-Beschleuniger direkt und effizient ansprechen | Qualcomm-spezifisch und stark vom Modell abhängig |
| NNAPI | Android-Abstraktion für neuronale Hardware | Einheitlicher Zugriff über verschiedene Geräte | Treiber und Herstellerimplementierung beeinflussen das Ergebnis |
Warum verschiedene Backends nur eingeschränkt vergleichbar sind
Die Benchmarkwerte dürfen miteinander verglichen werden, solange die Einschränkungen klar bleiben. Core ML und TensorFlow Lite sind nicht identisch. Dazu kommen unterschiedliche Treiber, Compiler, Modellkonvertierungen, Betriebssysteme und Hardwarepfade.
Auch die Bezeichnung „NPU“ beschreibt nicht überall dasselbe. Eine Apple Neural Engine, ein Qualcomm-Beschleuniger und ein Android-Treiber können unterschiedliche Operatoren und Datenformate bevorzugen. Ein hoher Score kann deshalb sowohl auf starke Hardware als auch auf eine besonders gute Softwareoptimierung für genau diesen Workload zurückgehen.
Der Benchmark zeigt also die Leistung einer Kombination aus Gerät, Betriebssystem, Framework, Backend und Modell. Er misst nicht unabhängig davon eine abstrakte Eigenschaft namens „KI-Leistung“.
So testest du dein Smartphone oder Tablet richtig
- Gerät vor dem Test auf eine möglichst normale Temperatur bringen.
- Hintergrund-Apps schließen und automatische Downloads pausieren.
- Energiesparmodus deaktivieren und eine stabile Stromversorgung sicherstellen.
- Geekbench-AI-Version exakt notieren.
- Betriebssystem, Modellnummer, Framework und Backend dokumentieren.
- CPU-, GPU- und NPU-Tests nicht vermischen.
- Jeden relevanten Test mehrfach ausführen.
- Ausreißer erkennen und nicht automatisch als Ergebnis übernehmen.
- Screenshots der Ergebnisansicht speichern.
- Nur gleiche Score-Kategorien und möglichst vergleichbare Backends gegeneinander stellen.
Typische Fehler sind ein Vergleich von Geekbench-AI-Versionen, das Vermischen von CPU- und NPU-Werten oder die Verwendung eines einzelnen Durchlaufs. Auch ein kaltes Gerät ist nicht automatisch fairer als ein warmes Gerät. Wichtig ist vor allem, dass die Bedingungen dokumentiert und zwischen den Vergleichsgeräten möglichst ähnlich sind.
Eigene Screenshots passen am besten direkt nach der Tabelle mit den Testbedingungen, nach dem Abschnitt zum iPad und nach dem Abschnitt zum Galaxy S26 Ultra. Dadurch sieht der Leser nicht nur die übertragenen Zahlen, sondern auch die jeweils ausgewählte Framework- und Backend-Konfiguration.
Welcher Geekbench-AI-Score ist am wichtigsten?
Den wichtigsten Score gibt es nicht. Für Anwendungen mit hoher numerischer Genauigkeit kann Single Precision relevant sein. Für viele moderne mobile KI-Aufgaben ist Half Precision interessant, weil dieses Format häufig einen guten Kompromiss aus Genauigkeit, Geschwindigkeit und Speicherbedarf bietet.
Quantized ist besonders wichtig, wenn lokale KI auf Smartphones und Tablets betrachtet wird. Sprachmodelle, Bildfunktionen, Kameraverarbeitung und andere On-Device-Aufgaben müssen häufig mit begrenztem Speicher- und Energieverbrauch arbeiten. Genau dort können quantisierte Modelle ihre Vorteile ausspielen.
Die eigenen Messungen zeigen das deutlich: Das Galaxy S26 Ultra erreicht mit QNN beim Quantized Score 80.848 und liegt damit rund 48 Prozent über dem iPad Pro M4 mit Neural Engine. Beim Half Precision Score liegt dagegen das iPad mit 38.876 Punkten rund 21 Prozent vorne.
Was sagen die Messungen über beide Geräte aus?
Das iPad Pro M4 wirkt in diesen Tests besonders stark bei Half Precision und beim Single-Precision-Vergleich zwischen Neural Engine und QNN. Die Neural Engine bringt bei Quantized einen enormen Vorsprung gegenüber der CPU, obwohl der Single-Precision-Unterschied zwischen CPU und Neural Engine gering bleibt.
Das Galaxy S26 Ultra zeigt seine größte Stärke bei quantisierten Workloads. QNN steigert den Quantized Score gegenüber der CPU um den Faktor 11,7. Gleichzeitig fällt der QNN-Single-Precision-Wert niedriger aus als der CPU-Wert. Das ist kein Widerspruch, sondern ein Hinweis auf die unterschiedliche Eignung der Hardwarepfade für verschiedene Formate.
Für Nutzer lokaler KI kann das Samsung-Ergebnis deshalb sehr interessant sein, wenn die verwendeten Anwendungen quantisierte Modelle nutzen. Das iPad bleibt besonders spannend, wenn FP16-Verarbeitung und die Core-ML-Optimierung im Vordergrund stehen. Für eine endgültige Alltagseinschätzung wären zusätzlich konkrete App-Tests, Laufzeitmessungen und Energieverbrauchswerte nötig.
FAQ zu Geekbench AI, QNN und Neural Engine
Was misst Geekbench AI?
Geekbench AI misst die Leistung eines Geräts bei mehreren maschinellen Lernaufgaben. Die Ergebnisse werden für Single Precision, Half Precision und Quantized getrennt ausgewiesen.
Was ist der Unterschied zwischen CPU und NPU im Benchmark?
Die CPU verarbeitet KI-Aufgaben als allgemeine Recheneinheit. Eine NPU ist auf neuronale Netze spezialisiert und kann passende Modelle schneller und energieeffizienter ausführen.
Was bedeutet Quantized bei Geekbench AI?
Quantized bezeichnet KI-Modelle mit reduzierter numerischer Präzision. Dadurch sinken Speicherbedarf und Datenbewegungen, was mobile Beschleuniger deutlich entlasten kann.
Was ist QNN bei einem Snapdragon-Smartphone?
QNN ist Qualcomms Neural-Network-Framework. Es kann Anwendungen mit den spezialisierten KI-Beschleunigern einer Snapdragon-Plattform verbinden.
Ist QNN dasselbe wie NNAPI?
Nein. NNAPI ist eine Android-Abstraktionsschnittstelle, während QNN zum Qualcomm AI Stack gehört und speziell auf Qualcomm-Hardware ausgerichtet ist.
Warum ist der Quantized Score oft viel höher als der CPU-Wert?
Quantisierte Modelle passen häufig besonders gut zu spezialisierten NPUs. Diese können viele kompakte Matrixoperationen parallel und mit geringerem Energiebedarf verarbeiten.
Ist das Galaxy S26 Ultra wegen des höheren QNN-Scores grundsätzlich schneller bei KI?
Nein. Der höhere Quantized-Wert gilt für diesen Workload und dieses Backend. Bei Half Precision liegt das iPad Pro M4 in den genannten Messungen vorne.
Ist die Apple Neural Engine immer schneller als die CPU?
Nein. Der Vorteil hängt vom Rechenformat, Modell und unterstützten Backend ab. In den Messungen war der Single-Precision-Abstand zwischen CPU und Neural Engine des iPad Pro M4 nahezu null.
Welchen Geekbench-AI-Test sollte ich für ein Smartphone nutzen?
Für einen vollständigen Überblick sind CPU und das verfügbare NPU-Backend sinnvoll. Bei Snapdragon-Geräten sollte QNN zusätzlich zu CPU und optional NNAPI getestet werden.
Sind Geekbench-AI-Werte verschiedener Frameworks direkt vergleichbar?
Nur eingeschränkt. Framework, Treiber, Compiler, Betriebssystem und Backend beeinflussen das Ergebnis. Die Werte sind trotzdem nützlich, wenn diese Rahmenbedingungen transparent dokumentiert werden.
Fazit
Geekbench AI ist kein einfacher Wettbewerb um eine einzige Punktzahl. Der Benchmark zeigt vielmehr, wie unterschiedlich ein Gerät auf verschiedene Rechenformate und Hardwarepfade reagiert.
Beim iPad Pro M4 steigt der Quantized Score mit der Neural Engine von 6.773 auf 54.700. Beim Samsung Galaxy S26 Ultra wächst der Wert mit QNN von 6.938 auf 80.848. Gleichzeitig liegt das iPad bei Half Precision mit 38.876 gegenüber 32.021 rund 21 Prozent vorne.
Die Backend-Auswahl verändert das Ergebnis damit stärker, als viele Nutzer erwarten. CPU, GPU, NPU, Neural Engine, QNN und NNAPI sind keine austauschbaren Begriffe. Sie stehen für unterschiedliche Rechenwege mit eigenen Stärken und Schwächen.
Für mich ist deshalb entscheidend, dass ein Benchmark immer mit Version, Framework, Backend, Betriebssystem und Rechenformat veröffentlicht wird. Erst dann lässt sich ein Ergebnis sinnvoll einordnen. Wer nur den höchsten Score betrachtet, vergleicht möglicherweise nicht die gleiche Art von KI-Leistung.
Vorschläge für interne Links
Sinnvolle interne Verlinkungen wären ein Grundlagenartikel zur Apple Neural Engine, ein Beitrag über CPU gegen GPU gegen NPU sowie eine Erklärung von Qualcomm QNN. Ebenfalls passend sind Artikel zu lokalen Sprachmodellen, Smartphone-KI, quantisierten Modellen und dem richtigen Lesen von Benchmark-Ergebnissen.
Als Folgeartikel bieten sich ein direkter Test von QNN gegen NNAPI, ein Vergleich von Smartphone-NPU und RTX-Grafikkarte sowie ein Praxisbeitrag zu Geekbench-AI-Ergebnissen auf weiteren iPad- und Galaxy-Modellen an.
Kommentare
Diskutiere mit
Noch keine Kommentare. Sei der Erste.