Nvidia dominiert seit Jahren den Markt für KI-Beschleuniger. Wer große Sprachmodelle trainieren oder KI-Dienste im großen Stil betreiben möchte, entscheidet sich häufig für Nvidia-GPUs. Doch genau diese Abhängigkeit wird für viele Unternehmen zunehmend zum Problem: Die Chips sind teuer, die Nachfrage ist hoch und die Infrastrukturkosten steigen weiter. Google sieht darin offenbar eine Chance und baut sein eigenes Geschäft mit KI-Chips deutlich aus.
Im Mittelpunkt stehen Googles Tensor Processing Units (TPUs). Diese Spezialchips wurden ursprünglich vor allem für interne Google-Dienste entwickelt. Sie treiben unter anderem KI-Modelle, die Suche, Cloud-Dienste und die Gemini-Infrastruktur an. Inzwischen hat sich daraus jedoch ein eigenes Geschäftsfeld entwickelt, mit dem Google Nvidia direkte Konkurrenz machen will.
Google will mehr sein als nur Cloud-Anbieter
Bisher wurden Googles TPUs vor allem über Google Cloud bereitgestellt. Kunden konnten somit Rechenleistung auf Googles Infrastruktur mieten, ähnlich wie bei GPU-Instanzen anderer Cloud-Anbieter. Der entscheidende Unterschied ist, dass Google seine TPU-Technologie inzwischen stärker für externe Kunden öffnet und ausgewählten Unternehmen die Chips auch direkt für eigene Rechenzentren zur Verfügung stellen will.
Damit tritt Google nämlich nicht mehr nur als Cloud-Anbieter auf, sondern rückt näher an das Geschäftsmodell von Nvidia heran. Nvidia verkauft nicht nur Chips, sondern hat ein komplettes Ökosystem aus Hardware, Software, Netzwerktechnik, Entwicklerwerkzeugen und Partnern aufgebaut. Genau hier versucht Google nun aufzuholen.
Google setzt nicht nur auf bessere Hardware, sondern auch auf Finanzierungsmodelle, Partnerschaften und Infrastrukturprojekte. Das Ziel besteht darin, ein größeres KI-Ökosystem rund um die eigenen TPUs zu schaffen. Unternehmen, die bislang fast automatisch zu Nvidia greifen mussten, sollen eine ernsthafte Alternative erhalten.
Warum TPUs für Google so wichtig sind
TPUs sind auf KI-Berechnungen spezialisiert. Im Gegensatz dazu wurden klassische GPUs ursprünglich für den Grafikbereich entwickelt und später für KI-Workloads optimiert. Google hat seine TPUs hingegen gezielt für maschinelles Lernen entwickelt. Sie sind besonders interessant für große Modelle, Inferenzaufgaben und sehr skalierbare Rechencluster.
Mit „Ironwood” hat Google bereits die siebte Generation seiner TPU vorgestellt. Sie wurde insbesondere für Inferenz, also den Betrieb fertiger KI-Modelle, optimiert. Genau dieser Bereich wird immer wichtiger. Das Training großer Modelle ist zwar extrem teuer, doch auch der tägliche Betrieb von Chatbots, KI-Agenten, Suchfunktionen und Unternehmensassistenten erfordert enorme Rechenleistung.
Auf der Google Cloud Next 2026 hat Google zudem die achte Generation der TPU vorgestellt. TPU 8t ist auf das Training ausgelegt, TPU 8i auf die Inferenz und sogenannte agentische Workloads. Google zufolge bietet TPU 8i eine deutlich bessere Leistung pro Dollar als die vorherige Generation. Genau das ist der Hebel, mit dem Google Nvidia angreifen kann. Es geht nicht um maximale Rohleistung um jeden Preis, sondern um günstigere und effizientere KI-Rechenleistung für bestimmte Aufgaben.
Nvidia bleibt dominant - aber der Druck steigt
Nvidia hat nach wie vor einen großen Vorsprung. Der größte Vorteil liegt dabei nicht nur in der Hardware, sondern auch im Software-Ökosystem. CUDA ist für viele KI-Entwickler praktisch der Standard. Zahlreiche Frameworks, Bibliotheken und Optimierungen sind auf Nvidia-Hardware abgestimmt. Wer von Nvidia weg möchte, muss oft zusätzlichen Entwicklungsaufwand einplanen.
Genau hier liegt Googles größte Hürde. TPUs mögen technisch attraktiv sein, doch Unternehmen wollen ihre bestehenden KI-Workloads nicht vollständig umstrukturieren. Insbesondere PyTorch ist in der KI-Entwicklung weit verbreitet. Google arbeitet Berichten zufolge bereits daran, TPUs besser mit PyTorch kompatibel zu machen. Eine solche Initiative würde die Einstiegshürde für Entwickler deutlich senken.
Das ist ein entscheidender Punkt: KI-Chips werden nicht nur über ihre technischen Daten verkauft. Ausschlaggebend ist, wie einfach Entwickler ihre Modelle darauf trainieren und betreiben können. Nvidia hat sich diesen Vorsprung über Jahre hinweg erarbeitet. Google muss ihn zumindest teilweise schließen, wenn TPUs wirklich breiter eingesetzt werden sollen.
Anthropic als wichtiger Partner
Ein prominentes Beispiel für Googles TPU-Offensive ist das Unternehmen Anthropic. Das Unternehmen, das hinter dem Chatbot Claude steht, nutzt eine Mischung aus verschiedenen KI-Infrastrukturen, darunter AWS Trainium, Google TPUs und Nvidia-GPUs. Im April wurde eine erweiterte Partnerschaft mit Google und Broadcom bekannt, durch die Anthropic Zugriff auf mehrere Gigawatt TPU-Kapazität erhalten soll. Diese Kapazität soll ab 2027 online gehen.
Auch OpenAI nutzt offenbar bereits Google-TPUs über Google Cloud, vor allem, um die Inferenzkosten zu senken. Selbst wenn Nvidia weiterhin eine zentrale Rolle spielt, zeigt sich: Die großen KI-Unternehmen diversifizieren ihre Infrastruktur.
Google arbeitet weiter mit Nvidia zusammen
Die Lage ist trotz der wachsenden Konkurrenz nicht schwarz-weiß. Google greift Nvidia zwar mit eigenen Chips an, ist aber gleichzeitig ein wichtiger Partner von Nvidia. Google Cloud bietet weiterhin Nvidia-GPUs an und möchte auch kommende Plattformen wie Vera Rubin bereitstellen.
Das mag widersprüchlich klingen, ist aber logisch. Google muss seinen Cloud-Kunden möglichst viele Optionen bieten. Einige Kunden bevorzugen Nvidia-GPUs aufgrund von CUDA, vorhandenen Workloads oder spezifischen Leistungsanforderungen. Andere wiederum könnten TPUs nutzen, wenn ihnen bessere Kosten, mehr Verfügbarkeit oder effizientere Inferenz wichtiger sind.
Google verfolgt deshalb eine zweigleisige Strategie: Einerseits wird die Nvidia-Infrastruktur weiterhin verkauft, andererseits wird eine eigene Alternative aufgebaut. Langfristig könnte Google so mehr Marge erzielen und mehr Kontrolle über die eigene KI-Infrastruktur gewinnen.
Auch Broadcom bleibt ein zentraler Baustein
Ein weiterer wichtiger Partner ist Broadcom. Das Unternehmen arbeitet seit Jahren mit Google an maßgeschneiderten Chips. Im April wurde eine langfristige Vereinbarung unterzeichnet, in der festgelegt wurde, dass Broadcom künftige Generationen von Googles KI-Chips und Komponenten für KI-Racks bis 2031 entwickeln und liefern soll.