Przejdź do treści

Narzędzia AI

ABBEL: jak agenci LLM kompresują pamięć — co zyskują modele lokalne

Zaktualizowano: Autor: Andrzej Niemiec11 min czytania

ABBEL to metoda badawcza z arXiv: agent prowadzi krótki stan przekonań zamiast pełnej historii. Co pokazały testy i jak wykorzystać to przy modelach lokalnych.

ABBEL: jak agenci LLM kompresują pamięć — co zyskują modele lokalne
Spis treści
  1. Czym jest ABBEL i kto za nim stoi?
  2. Jak działa belief state krok po kroku?
  3. Czy ABBEL porównano z limitem 100 tys. tokenów?
  4. Co pokazały testy?
  5. Jakie ryzyka niesie kompresja pamięci?
  6. Jak GitHub Copilot radzi sobie z kontekstem sam?
  7. Co to daje przy modelach lokalnych?
  8. Porównanie trzech podejść do pamięci agenta
  9. Najczęstsze pytania
  10. Źródła

Czym jest ABBEL i kto za nim stoi?

ABBEL to skrót od Acting through Belief Bottlenecks Expressed in Language. Metoda polega na tym, że agent nie trzyma w kontekście całej historii, tylko prowadzi krótki, zapisany naturalnym językiem stan przekonań i na jego podstawie wybiera kolejne działania [1]. Praca trafiła do arXiv 23 grudnia 2025 r., a jej poprawiona wersja ukazała się 4 czerwca 2026 r. [1]. Wśród autorów jest Alane Suhr z UC Berkeley, zespół ma też afiliacje w Georgia Tech, a Berkeley AI Research opublikowało omówienie 26 lipca 2026 r. [2].

ABBEL nie jest produktem ani funkcją GitHub Copilot. To publikacja badawcza o problemie ogólnym: jak agent ma pamiętać istotne informacje, gdy historia interakcji rośnie szybciej niż okno kontekstu. Praktyczną stronę uruchamiania modeli na własnym komputerze opisuje hub lokalne modele AI, a ten tekst dotyczy wyłącznie warstwy pamięci. Jeśli dobierasz model do sprzętu, zobacz też porównanie MoE i modeli gęstych.

Jak działa belief state krok po kroku?

Agent wykonuje w każdej iteracji dwie czynności. Najpierw aktualizuje stan przekonań na podstawie poprzedniego stanu, podjętego działania i nowej obserwacji. Następnie wybiera kolejne działanie wyłącznie na podstawie zaktualizowanego stanu [3]. Pełna historia nie trafia do promptu, więc pamięć robocza rośnie znacznie wolniej niż liczba kroków. Autorzy raportują, że po ponad pięciu krokach ABBEL zwykle wymagał mniej pamięci i tokenów niż praca na pełnym kontekście [4].

Stan przekonań jest jawny i zapisany językiem, nie jako ukryty wektor. Widać więc, jakie założenia agent przyjął i które informacje pominął, co ułatwia diagnozę błędu. Cena jest równie konkretna: to, czego nie ma w stanie przekonań, znika z pamięci roboczej i nie da się tego odzyskać bez ponownego przeczytania historii [1].

Czy ABBEL porównano z limitem 100 tys. tokenów?

Nie. W materiałach źródłowych nie występuje wynik eksperymentalny opisywany jako „100 tys. tokenów”. W kluczowym eksperymencie QA pełny kontekst sięgał około 10 tys. tokenów [4], a praca mierzy pamięć zależnie od zadania, a nie względem jednego uniwersalnego limitu.

Nie ma też podstaw, by wiązać metodę ze stałą liczbą commitów w GitHub Copilot. Limit kontekstu zależy od modelu i powierzchni produktu. GitHub ogłosił 4 czerwca 2026 r. obsługę okien do 1 mln tokenów w VS Code, Copilot CLI i aplikacji Copilot [5]. Wcześniejsza dokumentacja GPT-4o mówiła o 64 tys. tokenów [6], a VS Code Insiders o 128 tys. [5][6]. Te wartości zmieniają się wraz z modelem, nie z liczbą commitów.

Co pokazały testy?

Metodę oceniano w sześciu środowiskach wieloetapowych, między innymi Wordle, QA oraz ColBench i CollabBench [1]. W CollabBench wyniki nie oznaczały pełnego zwycięstwa nad pełnym kontekstem. Full Context osiągnął test pass rate 0,52, ABBEL bez dodatkowego uczenia 0,46, a ABBEL z rekonstrukcyjnym belief grading 0,48. Wariant z gradingiem zużywał przy tym znacznie mniej tokenów w szczycie [2][3].

To najważniejsza liczba w całym zestawie, bo pokazuje sens metody: nie chodzi o to, że kompresja zawsze wygrywa jakością, tylko o to, że przy zbliżonym wyniku koszt pamięci jest niższy. W zadaniach, w których pełny kontekst i tak się mieści, różnica może być niewielka.

Jakie ryzyka niesie kompresja pamięci?

Autorzy wymieniają cztery klasy błędów: pomijanie informacji, błędne aktualizacje, propagację błędnych przekonań oraz halucynowane wspomnienia wcześniejszych obserwacji [1]. To nie są przypadki brzegowe, tylko bezpośrednia konsekwencja tego, że stan przekonań jest jedynym nośnikiem pamięci agenta.

Uczenie ze wzmocnieniem ma te błędy ograniczać. Belief grading nagradza zachowanie informacji potrzebnych do odtworzenia obserwacji, a peak belief penalty promuje krótsze stany przekonań [2][4]. W praktyce jakość zależy więc od doboru nagród, a nie tylko od samego pomysłu na kompresję.

Jak GitHub Copilot radzi sobie z kontekstem sam?

Copilot CLI kompresuje historię przy około 80% zapełnienia okna, zostawiając bufor na dalszą pracę. Kompresję można uruchomić ręcznie poleceniem /compact, a zużycie sprawdzić przez /context. Mechanizm zachowuje streszczenie, ale może tracić szczegóły [5]. Okno zawiera instrukcje systemowe, wiadomości, odpowiedzi Copilota oraz wyniki wywołań narzędzi, więc jego zapełnienie zależy od sposobu pracy [7].

To rozwiązanie produktowe, niezależne od ABBEL. Zachowanie Copilota w projektach produkcyjnych badano osobno, na danych z rzeczywistych repozytoriów [8], ale nie jest to eksperyment na metodzie z arXiv.

Co to daje przy modelach lokalnych?

Lokalny model ma twardy budżet pamięci. Ollama udostępnia modele lokalne bez opłat i bez limitów zapytań po swojej stronie, więc płaci się za sprzęt i energię [9]. LM Studio na Windows zaleca co najmniej 16 GB RAM oraz 4 GB dedykowanego VRAM [10]. Im dłuższy kontekst, tym więcej pamięci zajmuje stan modelu, więc krótszy stan przekonań przekłada się bezpośrednio na to, czy zadanie w ogóle zmieści się na danej maszynie.

Trzy wnioski praktyczne:

  • projektuj stan przekonań pod konkretne zadanie, na przykład jako listę faktów, decyzji i otwartych pytań, zamiast ogólnego streszczenia;
  • aktualizuj stan przyrostowo, zamiast generować nowe streszczenie od zera, bo kolejne streszczenia tracą szczegóły;
  • zapisuj stan w języku i trzymaj go w repozytorium, żeby dało się prześledzić, skąd wzięło się błędne założenie.

Porównanie trzech podejść do pamięci agenta

KryteriumPełna historiaABBEL (stan przekonań)Kompresja w Copilot CLI
Co trafia do modeluwszystkie kroki i obserwacjekrótki, jawny opis stanustreszczenie historii po zapełnieniu okna
Zużycie pamięcirośnie z każdym krokiemrośnie znacznie wolniejskokowe, przy kompresji
Ryzyko utraty informacjiniskie w oknie, wysokie po jego przekroczeniupominięcia i błędne aktualizacje [1]utrata szczegółów po kompresji [5]
Kiedy się sprawdzakrótkie sesje, dużo wolnego miejscadługie zadania na skromnym sprzęciecodzienna praca w edytorze

Jeśli budujesz agenta na maszynie, która ledwo mieści model, najpierw policz pamięć, a dopiero potem wybieraj sprzęt. Pomaga w tym porównanie Gorgon Halo i Strix Halo.

Najczęstsze pytania

Czym różni się ABBEL od RAG?

RAG pobiera fragmenty z zewnętrznego magazynu i wstawia je do promptu. ABBEL utrzymuje stan przekonań wytworzony przez sam model i aktualizuje go po każdej obserwacji, bez odpytywania bazy [3]. RAG jest lepszy, gdy potrzebny jest dostęp do dużego i zmiennego zbioru dokumentów, a ABBEL dotyczy raczej ciągłej pracy agenta nad jednym zadaniem.

Czy ABBEL da się uruchomić lokalnie?

Tak, bo to metoda, a nie usługa. Wymaga modelu, który potrafi generować i aktualizować opis stanu, oraz pętli agenta, która podaje ten opis zamiast pełnej historii [4]. Na komputerze z 16 GB RAM i kartą 4 GB VRAM realna jest praca z mniejszymi modelami, ale nie z największymi wariantami [10].

Czy ABBEL zastępuje większe okno kontekstu?

Nie. Metoda ogranicza rosnącą historię, ale nie usuwa limitu okna modelu i może tracić informacje [1][4]. Większe okno i kompresja rozwiązują inne problemy: pierwsze zwiększa pojemność, druga obniża koszt każdego kroku.

Jak sprawdzić zużycie kontekstu w Copilot CLI?

Polecenie /context pokazuje zajętość okna, a /compact uruchamia kompresję ręcznie [5]. Automatyczna kompresja startuje przy około 80% zapełnienia, więc ten próg warto obserwować w długich sesjach.

Źródła

  1. ABBEL: Learning Natural-Language Belief States for Memory-Efficient Interaction (arXiv, 2025)
  2. Teaching LLMs to Update Beliefs for Efficient Long-Horizon Interaction (Berkeley AI Research, 2026)
  3. ABBEL: LLM Agents Acting through Belief Bottlenecks Expressed in Language (arXiv, 2025)
  4. ABBEL: Learning Natural-Language Belief States for Memory-Efficient Interaction (arXiv, 2026)
  5. Larger context windows and configurable reasoning levels for GitHub Copilot (GitHub Changelog, 2026)
  6. Copilot Chat now has a 64k context window with OpenAI GPT-4o (GitHub Changelog, 2024)
  7. Manage chat context in GitHub Copilot Chat (Microsoft Learn, b.d.)
  8. Agentic Coding in the Wild: Characterizing GitHub Copilot at Production Scale (arXiv, 2026)
  9. Ollama Pricing (Ollama, 2026)
  10. System Requirements (LM Studio, 2026)
AN
O autorze
Andrzej Niemiec

Fanatyk nowych technologii i specjalista w zakresie sztucznej inteligencji.

Jak powstają teksty: Polityka AI · O redakcji