TOPS, NPU, GPU: Welche KI-Leistung braucht eine Workstation wirklich?

TOPS, NPU, GPU: Welche KI-Leistung braucht eine Workstation wirklich?

Caroline Lück
•
16.10.2026

Warum tauchen bei Workstations plötzlich TOPS auf?

Prozessor, Arbeitsspeicher, Grafikkarte und SSD: Diese Angaben gehören seit Jahren zu jedem PC-Datenblatt.

Inzwischen kommt eine weitere Kennzahl hinzu: TOPS.

Vor allem bei sogenannten AI PCs, Copilot+ PCs und neuen mobilen Workstations geben Hersteller die KI-Leistung ihrer Systeme zunehmend in TOPS an. Gleichzeitig verfügen professionelle Grafikkarten ebenfalls über eine eigene KI-Rechenleistung.

Das kann schnell verwirrend werden.

Braucht eine professionelle Workstation heute mindestens 40 oder 50 TOPS? Sind 500 TOPS automatisch besser? Und warum erreichen manche professionelle GPUs sogar mehrere Tausend TOPS?

Um diese Werte sinnvoll einordnen zu können, muss zunächst zwischen CPU, NPU und GPU unterschieden werden.

Was bedeutet TOPS?

TOPS steht für Trillion Operations per Second und beschreibt, wie viele Rechenoperationen ein System beziehungsweise ein bestimmter Prozessor theoretisch pro Sekunde für entsprechende Berechnungen durchführen kann.

Vereinfacht gesagt ist TOPS eine Kennzahl für die Rechenleistung bei KI-Aufgaben.

Dabei gilt allerdings:

Eine TOPS-Zahl allein sagt noch nicht, wie schnell eine konkrete KI-Anwendung auf einer Workstation läuft.

Die tatsächliche Leistung hängt unter anderem davon ab,

  • welche Hardware die Anwendung unterstützt,
  • welche Rechengenauigkeit verwendet wird,
  • wie groß das KI-Modell ist,
  • wie viel Speicher zur Verfügung steht,
  • wie gut Software und Hardware aufeinander abgestimmt sind.

TOPS eignen sich deshalb nicht als alleinige Vergleichsgröße für komplette Workstations.

CPU, GPU und NPU: Wer übernimmt welche Aufgabe?

Moderne AI PCs und Workstations können KI-Aufgaben auf unterschiedlichen Recheneinheiten ausführen.

CPU – der universelle Prozessor

Die CPU (Central Processing Unit) bleibt die zentrale Recheneinheit des Systems.

Sie übernimmt Betriebssystem, Anwendungen und zahlreiche klassische Berechnungen. Bei Workstation-Anwendungen wie CAD, BIM und Konstruktion ist ihre Leistung weiterhin von großer Bedeutung.

Auch KI-Aufgaben können auf einer CPU ausgeführt werden. Für hochgradig parallele KI-Berechnungen sind andere Recheneinheiten jedoch häufig effizienter.

GPU – parallele Rechenleistung für Grafik und anspruchsvolle KI

Die GPU (Graphics Processing Unit) ist längst nicht mehr nur für die Bildausgabe zuständig.

Professionelle GPUs übernehmen unter anderem Berechnungen für:

  • 3D-Visualisierung,
  • Rendering,
  • Simulation,
  • Videoverarbeitung,
  • generative KI,
  • Machine Learning,
  • lokale Large Language Models (LLMs),
  • KI-gestützte professionelle Anwendungen.

Moderne professionelle GPUs verfügen dafür über spezialisierte Recheneinheiten zur Beschleunigung von KI.

Gerade bei anspruchsvollen lokalen KI-Workloads kann die GPU deshalb wesentlich wichtiger sein als die NPU.

NPU – spezialisierter KI-Beschleuniger

Die NPU (Neural Processing Unit) ist speziell für KI-Berechnungen ausgelegt.

Sie ist bei aktuellen Prozessorplattformen häufig direkt in den Chip integriert und kann bestimmte KI-Aufgaben besonders energieeffizient lokal ausführen.

Typische Einsatzbereiche sind beispielsweise:

  • Hintergrundeffekte bei Videokonferenzen,
  • Bild- und Audioverarbeitung,
  • Spracherkennung,
  • lokale Windows-KI-Funktionen,
  • kleinere lokale KI-Modelle,
  • kontinuierlich im Hintergrund laufende KI-Funktionen.

Der Vorteil liegt dabei nicht unbedingt darin, dass eine NPU jede KI-Aufgabe schneller als eine leistungsfähige GPU ausführt.

Ihre Stärke ist vor allem die effiziente Ausführung dafür optimierter KI-Workloads bei vergleichsweise geringem Energieverbrauch.

Das ist insbesondere bei mobilen Workstations interessant.

Was bedeuten 40 oder 50 NPU-TOPS?

Die Zahl 40 TOPS begegnet einem derzeit besonders häufig im Zusammenhang mit Microsoft Copilot+ PCs.

Microsoft definiert Copilot+ PCs unter anderem über eine NPU mit einer Leistung von mindestens 40 TOPS sowie weitere Hardwareanforderungen.

Damit können bestimmte Windows-KI-Funktionen lokal auf dem Gerät ausgeführt werden.

Aktuelle Prozessorplattformen gehen teilweise darüber hinaus. Mobile Workstations sind beispielsweise mit NPUs mit rund 50 TOPS erhältlich.

Das bedeutet jedoch nicht:

Eine Workstation mit 50 NPU-TOPS ist automatisch eine leistungsfähigere professionelle KI-Workstation als ein System mit weniger NPU-TOPS.

Für die Beurteilung muss immer geklärt werden, welche KI-Aufgaben tatsächlich ausgeführt werden sollen.

NPU-TOPS und GPU-TOPS sind nicht dasselbe

Besonders wichtig ist die Unterscheidung zwischen der KI-Leistung einer NPU und der einer professionellen GPU.

Eine moderne NPU kann beispielsweise 40 oder 50 TOPS erreichen.

Professionelle GPUs können dagegen KI-Leistungswerte von mehreren Hundert bis hin zu mehreren Tausend TOPS erreichen.

Diese Werte sollten jedoch nicht einfach gegeneinander aufgerechnet werden.

Die Recheneinheiten sind für unterschiedliche Einsatzbereiche konzipiert. Hinzu kommt, dass TOPS-Angaben je nach Rechengenauigkeit und Messmethode unterschiedlich zustande kommen können.

Ein Wert wie „50 NPU-TOPS“ und ein Wert wie „500 GPU-TOPS“ sind deshalb nicht automatisch ein direkter Leistungsvergleich.

Warum eine GPU bei anspruchsvoller lokaler KI wichtiger werden kann

Wer gelegentlich lokale Windows-KI-Funktionen nutzt, stellt andere Anforderungen an seine Hardware als ein Entwickler oder Data Scientist, der ein großes Sprachmodell lokal ausführen möchte.

Bei anspruchsvollen KI-Workloads wird neben der Rechenleistung vor allem der verfügbare GPU-Speicher beziehungsweise VRAM wichtig.

Das betrifft beispielsweise:

  • lokale Large Language Models,
  • generative Bildmodelle,
  • KI-Entwicklung,
  • Modell-Inferenz,
  • Fine-Tuning,
  • umfangreiche Datenanalyse,
  • KI-gestützte Rendering- und Visualisierungsworkflows.

Je größer das Modell wird, desto mehr Speicher wird benötigt.

Deshalb ist bei einer professionellen KI-Workstation die Frage „Wie viel Speicher steht der KI tatsächlich zur Verfügung?“ häufig mindestens ebenso wichtig wie die TOPS-Zahl.

Mehr TOPS oder mehr Speicher – was ist wichtiger?

Das hängt vom Workflow ab.

Ein System kann theoretisch eine sehr hohe KI-Rechenleistung besitzen. Passt das gewünschte Modell jedoch nicht in den verfügbaren Speicher, lässt es sich trotzdem nicht sinnvoll lokal ausführen.

Für professionelle KI-Anwendungen müssen deshalb mehrere Faktoren gemeinsam betrachtet werden:

Rechenleistung + verfügbarer Speicher + Speicherbandbreite + unterstützte Software + konkretes KI-Modell.

Gerade bei lokalen LLMs gewinnt die Speichergröße erheblich an Bedeutung.

Professionelle High-End-GPUs sind deshalb nicht nur wegen ihrer KI-Rechenleistung interessant, sondern auch wegen großer dedizierter Speicherbereiche.

Ein Beispiel: HP ZBook Ultra und lokale KI

Wie unterschiedlich NPU und GPU zusammenspielen können, zeigt beispielsweise eine aktuelle mobile Workstation wie das HP ZBook Ultra G1a.

Das System ist mit AMD Ryzen AI Max PRO Prozessoren erhältlich und bietet eine NPU mit bis zu 50 TOPS.

Gleichzeitig nutzt die Plattform eine Unified-Memory-Architektur. Je nach Konfiguration steht sehr viel gemeinsamer Arbeitsspeicher zur Verfügung, von dem ein großer Teil der GPU zugewiesen werden kann.

Damit richtet sich das System nicht nur an Anwender von Windows-KI-Funktionen, sondern auch an professionelle Workflows wie 3D-Modellierung, Rendering und die lokale Ausführung größerer KI-Modelle.

Das Beispiel zeigt gut:

Für eine KI-Workstation ist nicht nur die NPU entscheidend. Das Zusammenspiel aus CPU, GPU, NPU und Speicher bestimmt, welche Workloads tatsächlich möglich sind.

Und wie sieht es bei Lenovo ThinkPad P aus?

Auch bei mobilen Workstations der Lenovo ThinkPad P Serie finden sich inzwischen CPU, GPU und NPU innerhalb eines Systems.

Beim ThinkPad P1 Gen 8 beispielsweise bietet Lenovo je nach Prozessor eine integrierte Intel NPU. Gleichzeitig können professionelle NVIDIA RTX PRO Grafikkarten eingesetzt werden.

Die NPU übernimmt damit energieeffiziente lokale KI-Aufgaben, während eine entsprechend konfigurierte professionelle GPU wesentlich anspruchsvollere Grafik- und KI-Workloads beschleunigen kann.

Gerade bei solchen Systemen zeigt sich, warum die Angabe „AI Workstation“ allein noch wenig über die tatsächliche Leistung aussagt.

Entscheidend ist die konkrete Konfiguration.

Welche KI-Leistung braucht eine CAD-Workstation?

Für klassische CAD-Aufgaben sollte die TOPS-Zahl aktuell nicht an erster Stelle der Kaufentscheidung stehen.

Bei Anwendungen wie AutoCAD, SOLIDWORKS, Inventor oder Revit bleiben je nach Workflow insbesondere wichtig:

  • CPU-Leistung,
  • ausreichend RAM,
  • geeignete beziehungsweise zertifizierte professionelle GPU,
  • ausreichend VRAM,
  • schnelle SSD.

KI-Funktionen halten zwar zunehmend Einzug in professionelle Anwendungen. Solange eine konkrete Anwendung jedoch keine bestimmte NPU-Leistung voraussetzt, sollte eine höhere TOPS-Zahl nicht wichtiger bewertet werden als die klassischen Hardwareanforderungen.

Wer heute eine CAD-Workstation kauft, kann eine leistungsfähige NPU durchaus als zusätzliche Zukunftsreserve betrachten.

Sie ersetzt aber keine passende CPU- und GPU-Konfiguration.

Welche KI-Leistung braucht eine Creative-Workstation?

Bei professionellen Kreativ-Workflows spielt KI bereits eine größere Rolle.

Bildbearbeitung, Videoschnitt, Upscaling, Effekte, Rauschreduzierung, Maskierung und generative Funktionen können zunehmend KI-beschleunigt werden.

Hier ist allerdings ebenfalls entscheidend, wo die Berechnung stattfindet.

Manche Funktionen laufen in der Cloud, andere lokal auf GPU, NPU oder CPU.

Für eine Workstation für Adobe Creative Cloud und andere professionelle Kreativanwendungen bleiben deshalb eine leistungsfähige GPU, ausreichend VRAM, RAM und schneller Speicher wichtige Faktoren.

Eine hohe NPU-Leistung kann zusätzliche lokale KI-Funktionen ermöglichen, sollte aber nicht isoliert betrachtet werden.

Welche Hardware für lokale LLMs und generative KI?

Ganz anders sieht die Situation aus, wenn eine Workstation gezielt für lokale generative KI angeschafft wird.

Sollen beispielsweise größere Sprachmodelle, Bildgeneratoren oder eigene KI-Anwendungen lokal betrieben werden, rückt die GPU deutlich stärker in den Mittelpunkt.

Dann werden insbesondere relevant:

  • GPU-KI-Leistung,
  • GPU- beziehungsweise Unified Memory,
  • Speicherbandbreite,
  • unterstützte KI-Frameworks,
  • Größe und Quantisierung des verwendeten Modells.

Eine NPU mit 40 oder 50 TOPS allein macht aus einem Notebook deshalb noch keine High-End-KI-Workstation.

Für größere lokale Modelle kann eine leistungsfähige professionelle GPU beziehungsweise eine Workstation-Plattform mit sehr großem nutzbarem Speicher wesentlich wichtiger sein.

Wann sind 40+ NPU-TOPS sinnvoll?

Eine NPU mit mindestens 40 TOPS ist besonders interessant, wenn:

  • Copilot+ PC Funktionen genutzt werden sollen,
  • lokale Windows-KI-Funktionen wichtig sind,
  • KI-Aufgaben energieeffizient im Hintergrund laufen sollen,
  • eine mobile Workstation möglichst wenig CPU- und GPU-Ressourcen für solche Aufgaben verbrauchen soll,
  • zukünftige NPU-optimierte Business-Anwendungen berücksichtigt werden sollen.

Für einen mobilen professionellen Arbeitsplatz kann eine leistungsfähige NPU deshalb durchaus ein interessantes Auswahlkriterium sein.

Sie sollte aber zusätzlich zu CPU, GPU, RAM und SSD betrachtet werden – nicht an deren Stelle.

Wann braucht eine KI-Workstation eine leistungsfähige GPU?

Eine starke professionelle GPU wird wichtiger, wenn:

  • größere KI-Modelle lokal ausgeführt werden,
  • generative KI intensiv eingesetzt wird,
  • Machine Learning oder Data Science zum Workflow gehören,
  • KI mit 3D, Rendering oder Simulation kombiniert wird,
  • große Mengen an GPU-Speicher benötigt werden,
  • KI-Anwendungen explizit GPU-Beschleunigung unterstützen.

Hier können professionelle GPUs wie die NVIDIA RTX PRO Serie ihre Stärken ausspielen.

Je nach Leistungsklasse unterscheiden sich dabei nicht nur die KI-TOPS erheblich, sondern auch der verfügbare Grafikspeicher.

Genau deshalb sollte die GPU nach dem tatsächlichen KI-Workflow und nicht allein nach ihrer TOPS-Zahl ausgewählt werden.

Braucht jede neue Workstation eine NPU?

Nein.

Eine Workstation ohne besonders leistungsfähige NPU ist nicht automatisch veraltet oder für professionelle Anwendungen ungeeignet.

Wer beispielsweise hauptsächlich komplexe 3D-Modelle rendert, Simulationen berechnet oder mit einer Anwendung arbeitet, die ihre KI-Beschleunigung über die professionelle GPU realisiert, kann von einer starken GPU wesentlich stärker profitieren.

Bei mobilen Systemen und neuen Windows-KI-Funktionen gewinnt die NPU dagegen an Bedeutung.

Die Frage sollte deshalb nicht lauten:

„Wie viele TOPS muss eine moderne Workstation haben?“

Sondern:

„Welche meiner Anwendungen nutzt CPU, GPU oder NPU – und welche KI-Aufgaben sollen lokal ausgeführt werden?“

AI PC, Copilot+ PC oder KI-Workstation – wo liegt der Unterschied?

Die Begriffe werden häufig miteinander vermischt.

Ein AI PC bezeichnet grundsätzlich einen PC, der CPU, GPU und NPU zur lokalen Verarbeitung von KI-Aufgaben kombiniert.

Ein Copilot+ PC erfüllt konkrete Hardwarevoraussetzungen von Microsoft – darunter eine NPU mit mindestens 40 TOPS.

Eine KI-Workstation geht je nach Einsatz deutlich darüber hinaus.

Hier können professionelle GPUs, sehr große Speicherbereiche und leistungsfähige CPUs erforderlich sein, um beispielsweise lokale LLMs, generative KI, Datenanalyse, Rendering oder KI-Entwicklung zu beschleunigen.

Ein Copilot+ PC ist deshalb nicht automatisch eine professionelle KI-Workstation – und eine extrem leistungsfähige GPU-Workstation muss umgekehrt nicht anhand ihrer NPU-Leistung beurteilt werden.

Worauf sollten Unternehmen beim Kauf einer KI-Workstation achten?

Vor der Hardwareauswahl sollten zunächst die Anwendungen und KI-Workloads geklärt werden.

Wichtige Fragen sind:

  • Welche Software wird eingesetzt?
  • Welche KI-Funktionen werden tatsächlich lokal berechnet?
  • Unterstützt die Software CPU, GPU oder NPU?
  • Wie groß sind die verwendeten KI-Modelle?
  • Wie viel GPU- beziehungsweise Unified Memory wird benötigt?
  • Werden CAD, BIM, Rendering oder Simulation zusätzlich genutzt?
  • Muss das System mobil sein?
  • Sind Copilot+ Funktionen relevant?
  • Soll die Workstation auch zukünftige lokale KI-Workflows abdecken?

Erst danach lässt sich sinnvoll entscheiden, welche Kombination aus CPU, GPU, NPU und Speicher benötigt wird.

Bei KI-Workstations sind TOPS nur ein Teil der Rechnung

TOPS sind eine hilfreiche Kennzahl, um die theoretische KI-Rechenleistung einer bestimmten Recheneinheit einzuordnen.

Sie sind aber kein allgemeiner Geschwindigkeitswert für eine komplette Workstation.

Eine NPU mit 40 oder 50 TOPS eignet sich für andere Aufgaben als eine professionelle GPU mit mehreren Hundert oder Tausend KI-TOPS. Gleichzeitig entscheidet bei größeren lokalen KI-Modellen häufig der verfügbare Speicher darüber, welche Workloads überhaupt sinnvoll ausgeführt werden können.

Für klassische CAD-, BIM- und Engineering-Arbeitsplätze bleiben CPU, professionelle GPU, RAM und SSD weiterhin zentrale Auswahlkriterien. Die NPU kommt als neuer Baustein hinzu und wird mit zunehmender lokaler KI-Nutzung wichtiger.

Bei einer gezielten KI-Workstation muss dagegen das gesamte System betrachtet werden:

CPU + GPU + NPU + Speicher + Software + tatsächlicher KI-Workflow.


CNW unterstützt Unternehmen bei der Auswahl und Konfiguration professioneller HP- und Lenovo-Workstations – von mobilen AI-PC-Workstations mit leistungsfähiger NPU bis zu Systemen für lokale KI, CAD, 3D, Rendering und anspruchsvolle GPU-beschleunigte Workflows.

Verwandte Produkte

Verwandte Posts

Alle anzeigen
Wird geladen …