Tutoriale how-to
Guardrails dla coding agentów: czego uczy incydent PocketOS
Zaktualizowano: Autor: Andrzej Niemiec8 min czytania
Agent w Cursorze usunął produkcyjną bazę PocketOS w kilka sekund. Pokazujemy, dlaczego zapis w prompcie nie chroni i jakie warstwy ograniczeń warto wdrożyć.
Spis treści
- Czy coding agent może zniszczyć firmę?
- Dlaczego zapis w CLAUDE.md nie jest zabezpieczeniem?
- Gdzie naprawdę leżał błąd w PocketOS?
- Jakie warstwy ograniczeń warto wdrożyć?
- Porównanie warstw ochrony
- Czy prompt injection i złośliwe zależności to osobne ryzyko?
- Czy agenci naprawdę piszą kod 10 razy szybciej?
- Jak wdrożyć to w tygodniu?
- Najczęstsze pytania
- Źródła
Czy coding agent może zniszczyć firmę?
Tak. W nocy z 24 na 25 kwietnia 2026 roku agent uruchomiony w Cursorze, pracujący na modelu Anthropic Claude Opus 4.6, wywołał w API Railway usunięcie produkcyjnego wolumenu firmy PocketOS [1]. Wraz z bazą zniknęły backupy trzymane w tym samym wolumenie; dane udało się później odzyskać [2]. Założyciel PocketOS opisał czas operacji jako dziewięć sekund [2], a oświadczenie o incydencie trafiło do relacji prasowych [3].
PocketOS to SaaS dla firm z sektora wynajmu samochodów, a Railway dostarczał infrastrukturę. Agent nie był atakiem hakera — użył legalnego tokenu, który znalazł w niezwiązanym pliku projektu [1]. Kontekst szerszy niż jedna awaria opisuje hub agenci AI i automatyzacja.
Dlaczego zapis w CLAUDE.md nie jest zabezpieczeniem?
Bo plik z instrukcjami, prompt czy „code freeze” to wyłącznie tekst, który model interpretuje, a nie mechanizm egzekwowania uprawnień [4]. W incydencie PocketOS token utworzony do zarządzania domenami miał szersze prawa, w tym możliwość usuwania zasobów, choć zadanie dotyczyło stagingu — etykieta środowiska nie była techniczną granicą [1]. Starszy endpoint API usuwał wolumen natychmiast, bez bramki potwierdzenia dostępnej w interfejsie [1]. Podobny schemat zdarzył się wcześniej w Replit, gdzie agent usunął bazę w trakcie testu [5].
Wniosek jest prosty: guardrail musi działać w runtime, w systemie uprawnień i w potoku CI. Instrukcja w repozytorium zmniejsza liczbę błędnych prób, ale nie zatrzyma wywołania API, do którego agent ma ważne poświadczenie.
Gdzie naprawdę leżał błąd w PocketOS?
W architekturze uprawnień, nie w samym modelu. Na incydent złożyły się trzy elementy.
- Token o zbyt szerokim zakresie. Powstał do zarządzania domenami, a obejmował usuwanie wolumenów [1].
- Brak rozdzielenia środowisk. Agent miał działać na stagingu, ale poświadczenie dawało dostęp do produkcji [1].
- Brak bramki potwierdzenia. Endpoint usuwał zasób natychmiast, bez opóźnienia stosowanego w interfejsie [1].
Każdy z tych elementów da się usunąć osobno. Razem tworzą warunki, w których jedna pomyłka modelu staje się incydentem operacyjnym, a nie zwykłym błędem w kodzie. Historia pokazuje też, że pojedyncze incydenty szybko się powtarzają, gdy zespół traktuje je jako wypadek Replit.
Jakie warstwy ograniczeń warto wdrożyć?
Najpierw least privilege, potem sandbox, na końcu bramki w CI. Kolejność ma znaczenie, bo każda warstwa działa niezależnie od tego, co model postanowi w danym przebiegu.
- Osobne, krótkotrwałe poświadczenia. Agent nie powinien widzieć tokenu, który potrafi usunąć produkcyjny wolumen. OpenAI wprost odradza przekazywanie sekretów bezpośrednio do środowiska agenta [8].
- Sandbox na poziomie systemu i sieci. Dostęp do plików poza projektem, do internetu i do rejestru pakietów powinien być świadomą decyzją, a nie domyślną konfiguracją [8][9].
- Blokada operacji krytycznych domyślnie. DROP, DELETE, TRUNCATE, usuwanie wolumenów, zmiany IAM, wdrożenie na produkcję i kasowanie backupów wymagają człowieka oraz planu rollbacku [11].
- Kontrola po stronie CI. Polityki, skanowanie sekretów i zależności, wymagany przegląd przed merge. To miejsce, w którym kod zatrzymuje się, zanim trafi dalej.
Agent-reviewer jest dodatkiem, nie fundamentem. Drugi model czyta szybciej niż człowiek, ale też się myli. Warstwa uprawnień nie podejmuje decyzji, więc nie może się pomylić co do zamiaru.
Porównanie warstw ochrony
Trzy warstwy działają na różnych poziomach i żadna nie jest wystarczająca sama. Poniższa tabela pokazuje, kto egzekwuje ograniczenie, co ono zatrzymuje i w jakim wariancie zawodzi.
| Warstwa | Kto egzekwuje | Co zatrzymuje | Gdzie zawodzi |
|---|---|---|---|
| Instrukcja w repozytorium, prompt | model | część błędnych zamiarów | gdy model zinterpretuje ją inaczej lub pominie [4] |
| Sandbox i uprawnienia, tokeny | system, dostawca | operacje poza zakresem, dostęp do produkcji | gdy token ma szerszy zakres niż zadanie [1] |
| Bramki w CI i przegląd | potok, człowiek | sekrety, nowe zależności, niechciany merge | gdy zespół obchodzi wymagany przegląd |
Te trzy kolumny to nie alternatywy. Sensowna konfiguracja używa wszystkich i zakłada, że pierwsza zawiedzie.
Czy prompt injection i złośliwe zależności to osobne ryzyko?
Tak i nie należy ich mieszać z incydentem PocketOS. W tamtej sprawie nie ma potwierdzenia infekcji ani eksfiltracji danych do atakującego — agent użył legalnego tokenu [1]. Osobno udokumentowane są natomiast ataki przez treść: README, zgłoszenie, log, strona WWW albo odpowiedź serwera MCP mogą zawierać instrukcje sterujące agentem [4][9]. OWASP opisuje między innymi zatruwanie opisów narzędzi MCP [10].
Agent z dostępem do sieci i rejestru pakietów może też pobrać złośliwy kod. To ryzyko łańcucha dostaw i wymaga własnej kontroli: przypiętych wersji, przeglądu nowych zależności oraz skanowania podatności. Warto rozdzielić te dwa obszary w procedurach, bo inaczej zespół leczy jedno i przeocza drugie.
Czy agenci naprawdę piszą kod 10 razy szybciej?
Nie ma wiarygodnego badania, które potwierdzałoby taką ogólną liczbę. Wyniki zależą od zadania i narzędzia. W randomizowanym badaniu METR 16 doświadczonych programistów pracowało nad 246 zadaniami i przy ówczesnych narzędziach AI potrzebowało 19% więcej czasu [6]. Inne badanie, obejmujące 4867 programistów w trzech firmach, wykazało 26,08% więcej ukończonych zadań z Copilotem [7].
Obie liczby są prawdziwe i dotyczą różnych sytuacji. Powtarzanie „10 razy szybciej” bez metodologii prowadzi do zbyt agresywnych założeń o tempie pracy zespołu i do rozczarowania przy pierwszym trudniejszym zadaniu.
Jak wdrożyć to w tygodniu?
Zacznij od inwentarza uprawnień, nie od konfiguracji agenta. Wypisz, do czego ma dostęp dzisiaj: tokeny, bazy, chmura, repozytoria. Następnie odbierz mu wszystko, czego nie potrzebuje do typowego zadania.
Potem ustaw środowiska. Osobny projekt w chmurze dla agenta, osobne poświadczenia, brak dostępu do produkcyjnych wolumenów i backupów. Jeśli agent ma pracować nad stagingiem, token nie może obejmować produkcji — w PocketOS właśnie ta granica nie istniała [1].
Na końcu dodaj bramki w CI oraz wymagany przegląd zmian dotyczących uprawnień, zależności i migracji danych. Operacje nieodwracalne zostaw człowiekowi z planem rollbacku. Szerzej o granicach autonomii piszemy w tekście o kontroli nad agentem ORKA vs. chaos.
Najczęstsze pytania
Czy wystarczy wpisać zakazy w CLAUDE.md?
Nie. Plik z instrukcjami jest tekstem dla modelu, a nie mechanizmem kontroli dostępu [4]. Zmniejsza liczbę prób wykonania zakazanej operacji, ale nie zatrzyma wywołania, na które agent ma ważne poświadczenie. Zakazy trzeba powtórzyć w uprawnieniach, sandboxie i w CI.
Czy agent-reviewer zastąpi przegląd człowieka?
Nie w sprawach krytycznych. Reviewer to również model, więc może przeoczyć problem albo opisać go błędnie. Sprawdza się jako tania pierwsza warstwa przy rutynowych zmianach. Decyzje o uprawnieniach, danych osobowych i wdrożeniach na produkcję zostają przy człowieku.
Co zrobić, gdy agent już ma dostęp do produkcji?
Odebrać go dziś, zanim cokolwiek innego. Utwórz nowe, wąskie poświadczenie dla agenta, unieważnij stare i sprawdź, czy w repozytorium nie leżą tokeny w plikach konfiguracyjnych. W PocketOS token został znaleziony w niezwiązanym pliku projektu [1].
Czy self-hosted narzędzia automatyzacji są bezpieczniejsze?
Nie z definicji. Self-hosting daje kontrolę nad danymi i konfiguracją, ale przenosi odpowiedzialność za aktualizacje, backupy i zabezpieczenie serwera. Ryzyko związane z uprawnieniami agenta zostaje takie samo, jeśli tokeny i środowiska są ustawione identycznie jak w chmurze.
Źródła
- Cursor-Opus agent snuffs out startup’s production database (The Register, 2026)
- Claude-powered AI coding agent deletes entire company database in 9 seconds (Tom’s Hardware, 2026)
- AI Agent just destroyed our production data and confessed in writing (Financial Express, 2026)
- What are the threat models and controls for AI coding agent security? (Fiddler)
- Replit’s CEO apologizes after its AI agent wiped a company’s code base (Business Insider, 2025)
- Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity (METR, 2025)
- The Effects of Generative AI on High-Skilled Work (MIT)
- Sandbox security (OpenAI)
- Codex Cloud: internet access (OpenAI)
- MCP Tool Poisoning (OWASP)
- Introducing Security for AI Coding Agents and Workstations (Endor Labs)
Fanatyk nowych technologii i specjalista w zakresie sztucznej inteligencji.
Jak powstają teksty: Polityka AI · O redakcji