TPU vs GPU w 2026: kiedy trening AI naprawdę się opłaca
Oryginalny AlphaFold2 trenowano na 128 rdzeniach TPU v3 około 11 dni, ale to nie dowód, że TPU zawsze bije GPU. Porównanie kosztów, generacje TPU i kryteria wyboru w 2026 roku.
Czy TPU są szybsze od GPU w trenowaniu modeli AI?
Nie ma jednego kontrolowanego benchmarku, który rozstrzyga ten spór. AlphaFold2 wytrenowano na TPU v3, a późniejsze implementacje tego samego modelu, między innymi FastFold i OpenFold, uruchamiano na kartach NVIDIA A100 i H100 [1][2][3]. To inne biblioteki i inne konfiguracje, więc wynik jednej implementacji nie jest dowodem na przewagę całej klasy układów. Porównanie ma sens tylko w obrębie jednego zadania i jednego stosu oprogramowania.
Jak wyglądał trening AlphaFold2 na TPU?
Model opisany w Nature 15 lipca 2021 roku powstał na 128 rdzeniach TPU v3, po jednym rdzeniu na próbkę w partii. Trening początkowy trwał około 7 dni, dostrajanie około 4 dni, łącznie około 11 dni na około 10 milionach próbek [1]. Źródła mówią o wartościach przybliżonych, nie o dokładnych 264 godzinach, bo czas zależy od przyjętej definicji zakończenia uczenia [1][2].
Trzeba przy tym rozdzielić trening od wnioskowania. Nature podaje około 0,6 minuty dla sekwencji 256 reszt i około 2,1 godziny dla sekwencji 2500 reszt przy pojedynczym modelu, a wyszukiwanie MSA i końcowa relaksacja wymagają dodatkowego czasu procesora [1]. To inny profil obciążenia niż sama pętla treningowa.
Co pokazał FastFold, czyli AlphaFold na kartach NVIDIA?
Praca FastFold, złożona 2 marca 2022 roku, skróciła trening z 11 dni do 67 godzin, używając do 512 kart NVIDIA A100, i przyspieszyła wnioskowanie długich sekwencji od 7,5 do 9,5 razy [2][4]. To wynik innej implementacji, a nie oryginalnego AlphaFold2 przeniesionego jeden do jednego na GPU [2][3].
Autorzy FastFold zwracali uwagę, że istotną część czasu zajmowały redukcje, operacje element-wise i transfer danych, a nie wyłącznie mnożenia macierzowe [5]. Wniosek jest praktyczny: wąskim gardłem bywa warstwa komunikacji i pamięci, a nie sam układ liczący.
Czym różni się TPU od GPU w codziennej pracy zespołu?
TPU jest projektowany pod mnożenie macierzy i pod infrastrukturę Google. AlphaFold2 korzysta z JAX, który ma szczególnie dobre wsparcie na TPU, a przeniesienie takiego kodu na CUDA wymaga pracy optymalizacyjnej [5][2]. GPU ma za to dojrzały ekosystem PyTorch i CUDA oraz jest dostępny u wielu dostawców, nie tylko w jednej chmurze [10].
Dla zespołu oznacza to wybór między sprzętem wyspecjalizowanym a uniwersalnym. Specjalizacja zwykle daje przewagę w jednym, dobrze dopasowanym zadaniu. Uniwersalność skraca czas wdrożenia i ułatwia zmianę dostawcy.
Kiedy trening na TPU się opłaca, a kiedy lepiej wybrać GPU?
| Kryterium | TPU w Google Cloud | GPU NVIDIA |
|---|---|---|
| Dopasowanie do modelu | największa korzyść przy JAX i modelach trenowanych na dużą skalę [2][5] | szeroki zestaw frameworków, w tym PyTorch i CUDA [2][3] |
| Dostępność | wyłącznie Google Cloud, układów nie można kupić na własność [9] | wiele chmur i serwery lokalne [10] |
| Koszt | koszt ukończonego zadania: urządzenia × czas × stawka, pamięć, kompilacja, transfer | ten sam rachunek, zwykle z większą swobodą doboru konfiguracji |
| Typ obciążenia | Ironwood jest projektowany przede wszystkim pod wielkoskalową inferencję [7] | trening i inferencja, także zadania poza uczeniem maszynowym |
| Ryzyko | zależność od jednego dostawcy i jego cennika | zależność od dostępności kart i cen rynkowych |
Google Cloud zapowiada, że TPU mają szybszy zwrot z inwestycji niż GPU. To deklaracja Thomasa Kuriana, szefa Google Cloud, a nie niezależny pomiar [8]. Przy własnym porównaniu trzeba ją traktować jako stanowisko dostawcy.
Jakie generacje TPU są dostępne w 2026 roku?
Google ogłosiło Trillium, czyli TPU v6e, w 2024 roku. Siódmą generację, Ironwood, zapowiedziano w kwietniu 2025 roku [6][7]. Google podaje konfiguracje do 9216 chipów, 192 GB pamięci HBM na chip i 7,37 TB/s przepustowości HBM [7]. Ironwood ma być przeznaczony przede wszystkim do wielkoskalowej inferencji, a nie wyłącznie do treningu [7].
Opis produktu trzeba datować, bo generacje zmieniają się co roku. Liczby z 2024 i 2025 roku nie opisują układów, które pojawią się później.
Czy można kupić TPU?
Nie. Układów nie sprzedaje się jak kart graficznych, decyduje o tym model własności i dostęp wyłącznie przez infrastrukturę Google [9]. Dla firmy oznacza to umowę z jednym dostawcą i brak sprzętu, który można przenieść do własnego centrum danych.
GPU można kupić, wynająć w dowolnej chmurze albo postawić na własnym serwerze [10]. Ta różnica często waży więcej niż tabela wydajności, zwłaszcza gdy zespół pracuje w PyTorch.
Jak policzyć koszt, żeby porównanie było uczciwe?
Punktem wyjścia jest koszt ukończonego zadania, a nie cena godziny pracy chipa. Trzeba dodać liczbę urządzeń pomnożoną przez czas i stawkę, stopień wykorzystania pamięci, koszt kompilacji XLA, transfer danych i storage [2]. Do tego dochodzi procesor: wyszukiwanie MSA i relaksacja w AlphaFold2 to osobny koszt poza akceleratorem [1].
Ostatnia pozycja to praca inżynierska. Przeniesienie kodu z JAX na CUDA albo odwrotnie zajmuje czas zespołu, a ten koszt rzadko trafia do kalkulatora chmury. Tańsza godzina nie dowodzi przewagi, jeśli projekt wymaga przepisania połowy pipeline'u.
Jak zacząć porównanie na własnym projekcie?
Najpierw zmierz jedno pełne uruchomienie na sprzęcie, który już masz, i zapisz czas, wykorzystanie pamięci oraz koszt infrastruktury. Potem policz to samo dla drugiej opcji na małej skali, zanim podpiszesz zobowiązanie. Praktyczne podejście do pilotażu i przenoszenia modeli do produkcji opisujemy w artykule o praktycznych zastosowaniach AI.
Jeśli projekt opiera się na modelach językowych, warto sprawdzić, jak zmienia się rynek dostawców. Pisaliśmy o tym w tekście o Google 2026 i wyszukiwarce, która robi zakupy. Dla szerszego kontekstu sprzętowego polecamy materiał o benchmarkach AI.
Najczęstsze pytania
Czy AlphaFold2 trenowano 11 dni?
Około 11 dni to suma dwóch etapów: mniej więcej 7 dni treningu początkowego i około 4 dni dostrajania na 128 rdzeniach TPU v3 [1]. Liczbę podano w publikacji Nature z 2021 roku i szeroko cytowano w pracy FastFold z 2022 roku [1][2]. Źródła mówią o wartościach przybliżonych.
Czy GPU jest tańsze od TPU?
Nie ma jednej odpowiedzi. FastFold skrócił trening AlphaFold z 11 dni do 67 godzin na do 512 kart A100, ale to inna implementacja [2]. O koszcie decyduje liczba urządzeń, czas, stawka i koszt pracy inżynierskiej, a nie cena godziny samego układu.
Czy Google TPU można kupić?
Nie. TPU nie jest produktem sprzedawanym jak karta graficzna, dostęp daje infrastruktura Google Cloud [9]. GPU można kupić, wynająć u wielu dostawców lub postawić lokalnie [10]. To ogranicza przenośność projektu opartego na TPU.
Do czego służy Ironwood?
Ironwood to siódma generacja TPU, zapowiedziana w kwietniu 2025 roku i projektowana przede wszystkim pod wielkoskalową inferencję [7]. Google podaje konfiguracje do 9216 chipów, 192 GB HBM na chip i 7,37 TB/s przepustowości HBM [7]. Trillium, czyli TPU v6e, ogłoszono w 2024 roku [6].
Czy TPU zawsze wygrywa z GPU?
Nie. Przewaga zależy od modelu, frameworka i skali. AlphaFold2 korzysta z JAX, który dobrze współpracuje z TPU, a GPU z PyTorch wymaga optymalizacji [5][2]. Przy mniejszych projektach i mieszanym obciążeniu elastyczność GPU bywa ważniejsza niż szczytowa wydajność.
Źródła
- Highly accurate protein structure prediction with AlphaFold (Nature, 2021)
- FastFold: Reducing AlphaFold Training Time from 11 Days to 67 Hours (arXiv, 2022)
- Optimizing OpenFold Training for Drug Discovery (NVIDIA Developer)
- FastFold: Reducing AlphaFold Training Time from 11 Days to 67 Hours — PDF (arXiv, 2022)
- FastFold — pełny tekst HTML (ar5iv, 2022)
- What’s new with AI Hypercomputer? (Google Cloud)
- Ironwood: The first Google TPU for the age of inference (Google, 2025)
- Google Cloud CEO: TPUs Have ‘Faster’ Payback Versus GPUs (CRN, 2026)
- GPU vs TPU w 2026 roku: Szybkość, Koszt i Dlaczego Nie Możesz Kupić TPU (MillionMiner, 2026)
- NVIDIA GPU vs Google TPU: Choosing the Right Accelerator (NeevCloud)