Przejdź do treści

Tutoriale how-to

Agenci AI w AWS SageMaker: jak wdrożyć, monitorować i utrzymać

Zaktualizowano: Autor: Andrzej Niemiec10 min czytania

Przewodnik po budowaniu agentów AI na AWS SageMaker. Jak wybrać model, skonfigurować endpoint, zintegrować z Strands Agents i monitorować w produkcji — bez…

Agenci AI w AWS SageMaker: jak wdrożyć, monitorować i utrzymać
Spis treści
  1. Czym jest SageMaker AI i jak wspiera agentów?
  2. Jakie modele dostępne są w SageMaker JumpStart?
  3. Jak ocenić, czy model nadaje się do Twojego use case?
  4. Krok po kroku: Wdrożenie modelu z JumpStart
  5. Jak połączyć model SageMaker z Strands Agents SDK?
  6. Najczęstsze błędy integracji
  7. Jak monitorować agenta w produkcji?
  8. Ile kosztuje wdrożenie agenta na SageMaker?
  9. Kontrola nad agentem: co to oznacza?
  10. Najczęstsze pytania
  11. Źródła

Czym jest SageMaker AI i jak wspiera agentów?

AWS SageMaker AI to zarządzana usługa do hostowania modeli uczenia maszynowego. Agent AI to aplikacja, która łączy model z narzędziami, pamięcią i instrukcjami — SageMaker dostarcza infrastrukturę dla modelu, ale logikę agenta implementuje się osobno, np. za pomocą Strands Agents SDK, LangChain lub własnego kodu [1].

SageMaker oferuje dwie główne ścieżki wdrożenia: zarządzane endpointy (uproszczone operacje, autoskalowanie) oraz HyperPod Inference (większa kontrola, Kubernetes) [2]. Dla większości projektów agentowych wystarczają zarządzane endpointy.

Jakie modele dostępne są w SageMaker JumpStart?

SageMaker JumpStart to katalog gotowych modeli foundation, które można wdrożyć w kilka minut. Dostępne są modele od Meta (Llama), Google (FLAN-T5), Stability AI (StableLM) i innych. Każdy model ma opublikowane benchmarki na zbiorach takich jak MMLU i HellaSwag [2].

Wybór modelu zależy od przypadku użycia:

ModelZastosowanieCharakterystyka
Llama-2-70B-ChatObsługa klienta, dialogDuży, dokładny, ~0,002 PLN za 1000 tokenów
FLAN-T5-XXLKlasyfikacja, proste zadaniaSzybki, tańszy (~0,0008 PLN/1000 tokenów), gorszy w wieloetapowych zadaniach
Falcon-40B-InstructAnaliza dokumentów, rozumowanieŚredni rozmiar, dobre wyniki na benchmarkach
StableLM-3BProste klasyfikacjeBardzo lekki, wdrożenie ~10 minut

Przed wyborem sprawdź benchmarki na stronie JumpStart i przetestuj model na 100 przykładowych zapytaniach z Twoimi danymi [2].

Jak ocenić, czy model nadaje się do Twojego use case?

Trzy kroki do weryfikacji:

  1. Sprawdź benchmarki — Jeśli Twój use case wymaga rozumowania (np. analiza umów), szukaj modeli z wynikiem >75% na MMLU.
  1. Uruchom endpoint tymczasowy — SageMaker pozwala na szybkie testowanie. Wyślij 100 zapytań i zmierz:
  • Czas odpowiedzi (cel: <2s dla 95% zapytań).
  • Jakość odpowiedzi (ocena ręczna lub przez inny model).
  1. Policz koszty — Dla agenta obsługującego 50 tys. zapytań dziennie:
  • Llama-2-70B: ~3 000 PLN/mies.
  • FLAN-T5-XXL: ~1 200 PLN/mies.

Różnica wynika z rozmiaru modelu i liczby tokenów na odpowiedź [2].

Krok po kroku: Wdrożenie modelu z JumpStart

  1. Wybierz model w konsoli SageMaker JumpStart (np. "Llama-2-70B-Chat").
  1. Skonfiguruj endpoint:
  • Typ instancji: ml.g5.48xlarge (dla Llama-2-70B).
  • Liczba instancji: 1 (na początek).
  • Auto-scaling: Wyłączony (włącz po testach).
  1. Wdróż — SageMaker automatycznie pobierze model i uruchomi endpoint. Średni czas: 15–25 minut [2].
  1. Przetestuj przez AWS CLI:
   aws sagemaker-runtime invoke-endpoint \
     --endpoint-name Llama2-70B-Endpoint \
     --body '{"inputs": "Wyjaśnij mi RODO w 3 zdaniach."}' \
     --content-type application/json \
     output.json
  1. Zintegruj z agentem (patrz sekcja poniżej).

Jak połączyć model SageMaker z Strands Agents SDK?

Strands Agents to framework do budowy agentów. Integracja z SageMaker:

  1. Zainstaluj SDK:
   pip install strands-agents-sdk
  1. Skonfiguruj klienta SageMaker:
   from strands_agents import SageMakerClient

   client = SageMakerClient(
       endpoint_name="Llama2-70B-Endpoint",
       region_name="eu-west-1",
       aws_access_key_id="YOUR_KEY",
       aws_secret_access_key="YOUR_SECRET"
   )
  1. Zdefiniuj agenta:
   from strands_agents import Agent

   agent = Agent(
       name="customer_support_agent",
       model_client=client,
       system_prompt="Jesteś agentem obsługi klienta. Odpowiadaj krótko i uprzejmie."
   )
  1. Przetestuj:
   response = agent.run("Jak mogę zresetować hasło?")
   print(response)

Upewnij się, że rola IAM ma uprawnienia sagemaker:InvokeEndpoint [1].

Najczęstsze błędy integracji

Błąd 403: AccessDenied — Nieprawidłowe uprawnienia IAM. Sprawdź, czy rola ma politykę AmazonSageMakerFullAccess lub przynajmniej sagemaker:InvokeEndpoint [1].

Timeout przy pierwszym zapytaniu — Cold start endpointu. Rozwiąż to, uruchamiając "rozgrzewkę" endpointu:

for _ in range(10):
    client.invoke({"inputs": "test"})

Niespójne odpowiedzi modelu — Temperatura ustawiona na zbyt wysoką wartość. Ustaw temperature=0.3 w parametrach zapytania [1].

Jak monitorować agenta w produkcji?

AWS CloudWatch i MLflow Serverless pozwalają śledzić wydajność. Kluczowe metryki:

MetrykaCelJak mierzyć
Latency<2s dla 95% zapytańCzas od zapytania do odpowiedzi
Accuracy>85% poprawnych odpowiedziOcena ręczna lub automatyczna
Cost per query<0,01 PLNKoszt tokenów + infrastruktura
Error rate<1%% zapytań z błędami

Ustaw alerty w CloudWatch na latency >3s przez 5 minut, error rate >2% lub koszt per query >0,02 PLN [2].

Ile kosztuje wdrożenie agenta na SageMaker?

Koszty składają się z:

  • Instancje endpointu — np. ml.g5.48xlarge kosztuje ~1,408 USD/h (zależy od regionu i typu) [2].
  • Storage — S3 dla modeli i logów.
  • Transfer danych — Wychodzące dane z AWS.
  • CloudWatch — Monitoring i logi.
  • Praca operacyjna — Utrzymanie, aktualizacje, bezpieczeństwo.

Zarządzane endpointy są rozliczane za zasoby infrastrukturalne, więc bezczynny endpoint nadal generuje koszt. Przed migracją z SaaS porównaj rzeczywiste wydatki, uwzględniając pracę DevOps i SLA [2].

Kontrola nad agentem: co to oznacza?

Własna infrastruktura na SageMaker daje większą kontrolę, ale wymaga architektury bezpieczeństwa:

  • Minimalne uprawnienia IAM — Oddzielne role dla agenta i endpointu.
  • Ograniczenie typów instancji — Zapobiegaj wyborowi bardzo drogich zasobów.
  • Limity budżetowe — Ustaw maksymalny koszt w AWS Budgets.
  • Allowlista narzędzi — Agent może używać tylko zatwierdzonych akcji.
  • Walidacja parametrów — Sprawdzaj zapytania przed wysłaniem do modelu.
  • Human-in-the-loop — Wymagaj zatwierdzenia dla działań ryzykownych.
  • Procedura wyłączenia — Umiej szybko zatrzymać endpoint w razie problemu [2].

Najczęstsze pytania

Czy SageMaker jest tańszy niż SaaS?

Zależy od wolumenu i konfiguracji. SaaS ma stałą cenę za użytkownika, SageMaker rozliczany jest za zasoby. Przy dużym wolumenie zapytań (>100 tys./dzień) własna infrastruktura może być tańsza, ale wymaga pracy operacyjnej. Zawsze porównaj rzeczywiste koszty przed migracją [2].

Jakie modele są najnowsze w SageMaker JumpStart?

JumpStart nie zawsze ma najnowsze modele. W październiku 2026 brakuje tam serii Llama-3. Sprawdzaj katalog JumpStart i rozważ wdrożenie modeli bezpośrednio z Hugging Face, jeśli potrzebujesz najnowszych wersji [2].

Czy mogę używać ChatGPT API zamiast SageMaker?

Tak, ale to inny model biznesowy. ChatGPT API to SaaS — płacisz za tokeny, brak kontroli nad danymi, zależność od OpenAI. SageMaker daje kontrolę, ale wymaga zarządzania infrastrukturą. Wybór zależy od priorytetu: szybkość vs. kontrola [1].

Jak skalować agenta, gdy rośnie liczba zapytań?

SageMaker oferuje autoskalowanie na podstawie metryki InvocationsPerInstance. Ustaw cel na 80% wykorzystania instancji, a SageMaker automatycznie doda lub usunie instancje. Monitoruj koszty, aby uniknąć niespodziewanych rachunków [2].

Czy SageMaker obsługuje streaming odpowiedzi?

Zarządzane endpointy SageMaker obsługują streaming przez API kompatybilne z OpenAI (dostępne od 20 maja 2026 r.). Możesz używać OpenAI SDK, zmieniając endpoint URL [1].

Źródła

  1. Enhance AI agents using predictive ML models with Amazon SageMaker AI and Model Context Protocol (MCP) — AWS
  2. Amazon SageMaker Inference: 2026 year-to-date launches in review — AWS
  3. Announcing OpenAI-compatible API support for Amazon SageMaker AI endpoints — AWS
  4. Amazon SageMaker Documentation — AWS
  5. Build Strands Agents with SageMaker AI models and MLflow — AWS
AN
O autorze
Andrzej Niemiec

Fanatyk nowych technologii i specjalista w zakresie sztucznej inteligencji.

Jak powstają teksty: Polityka AI · O redakcji