Tutoriale how-to
Agenci AI w AWS SageMaker: jak wdrożyć, monitorować i utrzymać
Zaktualizowano: Autor: Andrzej Niemiec10 min czytania
Przewodnik po budowaniu agentów AI na AWS SageMaker. Jak wybrać model, skonfigurować endpoint, zintegrować z Strands Agents i monitorować w produkcji — bez…
Spis treści
- Czym jest SageMaker AI i jak wspiera agentów?
- Jakie modele dostępne są w SageMaker JumpStart?
- Jak ocenić, czy model nadaje się do Twojego use case?
- Krok po kroku: Wdrożenie modelu z JumpStart
- Jak połączyć model SageMaker z Strands Agents SDK?
- Najczęstsze błędy integracji
- Jak monitorować agenta w produkcji?
- Ile kosztuje wdrożenie agenta na SageMaker?
- Kontrola nad agentem: co to oznacza?
- Najczęstsze pytania
- Źródła
Czym jest SageMaker AI i jak wspiera agentów?
AWS SageMaker AI to zarządzana usługa do hostowania modeli uczenia maszynowego. Agent AI to aplikacja, która łączy model z narzędziami, pamięcią i instrukcjami — SageMaker dostarcza infrastrukturę dla modelu, ale logikę agenta implementuje się osobno, np. za pomocą Strands Agents SDK, LangChain lub własnego kodu [1].
SageMaker oferuje dwie główne ścieżki wdrożenia: zarządzane endpointy (uproszczone operacje, autoskalowanie) oraz HyperPod Inference (większa kontrola, Kubernetes) [2]. Dla większości projektów agentowych wystarczają zarządzane endpointy.
Jakie modele dostępne są w SageMaker JumpStart?
SageMaker JumpStart to katalog gotowych modeli foundation, które można wdrożyć w kilka minut. Dostępne są modele od Meta (Llama), Google (FLAN-T5), Stability AI (StableLM) i innych. Każdy model ma opublikowane benchmarki na zbiorach takich jak MMLU i HellaSwag [2].
Wybór modelu zależy od przypadku użycia:
| Model | Zastosowanie | Charakterystyka |
|---|---|---|
| Llama-2-70B-Chat | Obsługa klienta, dialog | Duży, dokładny, ~0,002 PLN za 1000 tokenów |
| FLAN-T5-XXL | Klasyfikacja, proste zadania | Szybki, tańszy (~0,0008 PLN/1000 tokenów), gorszy w wieloetapowych zadaniach |
| Falcon-40B-Instruct | Analiza dokumentów, rozumowanie | Średni rozmiar, dobre wyniki na benchmarkach |
| StableLM-3B | Proste klasyfikacje | Bardzo lekki, wdrożenie ~10 minut |
Przed wyborem sprawdź benchmarki na stronie JumpStart i przetestuj model na 100 przykładowych zapytaniach z Twoimi danymi [2].
Jak ocenić, czy model nadaje się do Twojego use case?
Trzy kroki do weryfikacji:
- Sprawdź benchmarki — Jeśli Twój use case wymaga rozumowania (np. analiza umów), szukaj modeli z wynikiem >75% na MMLU.
- Uruchom endpoint tymczasowy — SageMaker pozwala na szybkie testowanie. Wyślij 100 zapytań i zmierz:
- Czas odpowiedzi (cel: <2s dla 95% zapytań).
- Jakość odpowiedzi (ocena ręczna lub przez inny model).
- Policz koszty — Dla agenta obsługującego 50 tys. zapytań dziennie:
- Llama-2-70B: ~3 000 PLN/mies.
- FLAN-T5-XXL: ~1 200 PLN/mies.
Różnica wynika z rozmiaru modelu i liczby tokenów na odpowiedź [2].
Krok po kroku: Wdrożenie modelu z JumpStart
- Wybierz model w konsoli SageMaker JumpStart (np. "Llama-2-70B-Chat").
- Skonfiguruj endpoint:
- Typ instancji:
ml.g5.48xlarge(dla Llama-2-70B). - Liczba instancji: 1 (na początek).
- Auto-scaling: Wyłączony (włącz po testach).
- Wdróż — SageMaker automatycznie pobierze model i uruchomi endpoint. Średni czas: 15–25 minut [2].
- Przetestuj przez AWS CLI:
aws sagemaker-runtime invoke-endpoint \
--endpoint-name Llama2-70B-Endpoint \
--body '{"inputs": "Wyjaśnij mi RODO w 3 zdaniach."}' \
--content-type application/json \
output.json
- Zintegruj z agentem (patrz sekcja poniżej).
Jak połączyć model SageMaker z Strands Agents SDK?
Strands Agents to framework do budowy agentów. Integracja z SageMaker:
- Zainstaluj SDK:
pip install strands-agents-sdk
- Skonfiguruj klienta SageMaker:
from strands_agents import SageMakerClient
client = SageMakerClient(
endpoint_name="Llama2-70B-Endpoint",
region_name="eu-west-1",
aws_access_key_id="YOUR_KEY",
aws_secret_access_key="YOUR_SECRET"
)
- Zdefiniuj agenta:
from strands_agents import Agent
agent = Agent(
name="customer_support_agent",
model_client=client,
system_prompt="Jesteś agentem obsługi klienta. Odpowiadaj krótko i uprzejmie."
)
- Przetestuj:
response = agent.run("Jak mogę zresetować hasło?")
print(response)
Upewnij się, że rola IAM ma uprawnienia sagemaker:InvokeEndpoint [1].
Najczęstsze błędy integracji
Błąd 403: AccessDenied — Nieprawidłowe uprawnienia IAM. Sprawdź, czy rola ma politykę AmazonSageMakerFullAccess lub przynajmniej sagemaker:InvokeEndpoint [1].
Timeout przy pierwszym zapytaniu — Cold start endpointu. Rozwiąż to, uruchamiając "rozgrzewkę" endpointu:
for _ in range(10):
client.invoke({"inputs": "test"})
Niespójne odpowiedzi modelu — Temperatura ustawiona na zbyt wysoką wartość. Ustaw temperature=0.3 w parametrach zapytania [1].
Jak monitorować agenta w produkcji?
AWS CloudWatch i MLflow Serverless pozwalają śledzić wydajność. Kluczowe metryki:
| Metryka | Cel | Jak mierzyć |
|---|---|---|
| Latency | <2s dla 95% zapytań | Czas od zapytania do odpowiedzi |
| Accuracy | >85% poprawnych odpowiedzi | Ocena ręczna lub automatyczna |
| Cost per query | <0,01 PLN | Koszt tokenów + infrastruktura |
| Error rate | <1% | % zapytań z błędami |
Ustaw alerty w CloudWatch na latency >3s przez 5 minut, error rate >2% lub koszt per query >0,02 PLN [2].
Ile kosztuje wdrożenie agenta na SageMaker?
Koszty składają się z:
- Instancje endpointu — np.
ml.g5.48xlargekosztuje ~1,408 USD/h (zależy od regionu i typu) [2]. - Storage — S3 dla modeli i logów.
- Transfer danych — Wychodzące dane z AWS.
- CloudWatch — Monitoring i logi.
- Praca operacyjna — Utrzymanie, aktualizacje, bezpieczeństwo.
Zarządzane endpointy są rozliczane za zasoby infrastrukturalne, więc bezczynny endpoint nadal generuje koszt. Przed migracją z SaaS porównaj rzeczywiste wydatki, uwzględniając pracę DevOps i SLA [2].
Kontrola nad agentem: co to oznacza?
Własna infrastruktura na SageMaker daje większą kontrolę, ale wymaga architektury bezpieczeństwa:
- Minimalne uprawnienia IAM — Oddzielne role dla agenta i endpointu.
- Ograniczenie typów instancji — Zapobiegaj wyborowi bardzo drogich zasobów.
- Limity budżetowe — Ustaw maksymalny koszt w AWS Budgets.
- Allowlista narzędzi — Agent może używać tylko zatwierdzonych akcji.
- Walidacja parametrów — Sprawdzaj zapytania przed wysłaniem do modelu.
- Human-in-the-loop — Wymagaj zatwierdzenia dla działań ryzykownych.
- Procedura wyłączenia — Umiej szybko zatrzymać endpoint w razie problemu [2].
Najczęstsze pytania
Czy SageMaker jest tańszy niż SaaS?
Zależy od wolumenu i konfiguracji. SaaS ma stałą cenę za użytkownika, SageMaker rozliczany jest za zasoby. Przy dużym wolumenie zapytań (>100 tys./dzień) własna infrastruktura może być tańsza, ale wymaga pracy operacyjnej. Zawsze porównaj rzeczywiste koszty przed migracją [2].
Jakie modele są najnowsze w SageMaker JumpStart?
JumpStart nie zawsze ma najnowsze modele. W październiku 2026 brakuje tam serii Llama-3. Sprawdzaj katalog JumpStart i rozważ wdrożenie modeli bezpośrednio z Hugging Face, jeśli potrzebujesz najnowszych wersji [2].
Czy mogę używać ChatGPT API zamiast SageMaker?
Tak, ale to inny model biznesowy. ChatGPT API to SaaS — płacisz za tokeny, brak kontroli nad danymi, zależność od OpenAI. SageMaker daje kontrolę, ale wymaga zarządzania infrastrukturą. Wybór zależy od priorytetu: szybkość vs. kontrola [1].
Jak skalować agenta, gdy rośnie liczba zapytań?
SageMaker oferuje autoskalowanie na podstawie metryki InvocationsPerInstance. Ustaw cel na 80% wykorzystania instancji, a SageMaker automatycznie doda lub usunie instancje. Monitoruj koszty, aby uniknąć niespodziewanych rachunków [2].
Czy SageMaker obsługuje streaming odpowiedzi?
Zarządzane endpointy SageMaker obsługują streaming przez API kompatybilne z OpenAI (dostępne od 20 maja 2026 r.). Możesz używać OpenAI SDK, zmieniając endpoint URL [1].
Źródła
- Enhance AI agents using predictive ML models with Amazon SageMaker AI and Model Context Protocol (MCP) — AWS
- Amazon SageMaker Inference: 2026 year-to-date launches in review — AWS
- Announcing OpenAI-compatible API support for Amazon SageMaker AI endpoints — AWS
- Amazon SageMaker Documentation — AWS
- Build Strands Agents with SageMaker AI models and MLflow — AWS
Fanatyk nowych technologii i specjalista w zakresie sztucznej inteligencji.
Jak powstają teksty: Polityka AI · O redakcji