Przejdź do treści

Narzędzia AI

llm-gemini 0.32a0: strumieniowanie tokenów rozumowania w Gemini

Zaktualizowano: Autor: Andrzej Niemiec10 min czytania

llm-gemini 0.32a0 z 19 maja 2026 r. dodał strumieniowanie tokenów rozumowania Gemini. Co zmieniło się w llm 0.32a0 i która wersja nadaje się do pracy.

Spis treści
  1. Co dokładnie wydano 19 maja 2026 roku?
  2. Czym llm różni się od llm-gemini?
  3. Jak działa strumieniowanie tokenów rozumowania?
  4. Czy tokeny rozumowania to pełny tok myślenia modelu?
  5. Czy wersja 0.32a0 nadaje się do produkcji?
  6. Które modele Gemini obsługuje plugin?
  7. Ile to kosztuje?
  8. Jak zacząć pracę z pluginem?
  9. Najczęstsze pytania
  10. Źródła

Co dokładnie wydano 19 maja 2026 roku?

Nowa wersja pluginu, nie nowy model. Wydanie llm-gemini 0.32a0 opublikowano 19 maja 2026 r. o 20:47. Zakres obejmował dwie zmiany: zgodność z biblioteką llm w wersji co najmniej 0.32a0 oraz strumieniowanie tokenów rozumowania [1]. Biblioteka bazowa llm 0.32a0 ukazała się 29 kwietnia 2026 r., trzy tygodnie wcześniej [2].

llm-gemini daje dostęp do rodziny modeli Gemini z poziomu llm [3]. Opis samego produktu Google znajduje się w osobnym materiale o Gemini, który zbiera informacje o aplikacji, modelach i planach.

Czym llm różni się od llm-gemini?

To dwie osobne warstwy. llm to biblioteka i narzędzie wiersza poleceń do pracy z modelami językowymi [4]. llm-gemini to plugin, który dodaje do niej obsługę modeli Gemini [3]. Plugin nie jest produktem Google: repozytorium prowadzi Simon Willison, a PyPI wskazuje go jako autora i publikuje kolejne wersje projektu [5].

Numery wersji obu elementów są powiązane. Plugin 0.32a0 wymagał llm w wersji co najmniej 0.32a0, więc aktualizacja samego pluginu nie dawała dostępu do nowych zdarzeń strumieniowych [1][2]. To najczęstsze źródło nieporozumień przy pierwszej instalacji, bo kolejność aktualizacji ma znaczenie.

Jak działa strumieniowanie tokenów rozumowania?

Odpowiedź przychodzi w typowanych zdarzeniach, a nie jako jeden blok tekstu. Biblioteka llm 0.32a0 wprowadziła zdarzenia text, reasoning, wywołania narzędzi i wyniki narzędzi [2]. Iterowanie po zwykłym obiekcie odpowiedzi nadal zwracało tylko tekst, natomiast pełny strumień odbierało się przez response.stream_events() [6].

W kodzie oznacza to pętlę po zdarzeniach i reakcję na ich typ. Fragment tekstu trafia do interfejsu, zdarzenie reasoning można pokazać albo pominąć, a wywołanie narzędzia uruchamia funkcję w aplikacji. Taki układ pozwala przerwać odbiór bez czekania na koniec generowania.

Czy tokeny rozumowania to pełny tok myślenia modelu?

Nie, i to rozróżnienie ma znaczenie przy budowie interfejsów. Dokumentacja opisuje widoczne fragmenty rozumowania oraz nieprzezroczyste metadane, takie jak sygnatura thoughtSignature [7]. Opcja hide_reasoning ukrywa prezentację tych fragmentów, ale niekoniecznie wyłącza sam proces rozumowania modelu [7].

Autor pluginu opisał wydanie we wpisie z 19 maja 2026 r., wskazując wprost na strumieniowanie reasoning tokens [8]. To sformułowanie dotyczy widocznych tokenów rozumowania, a nie surowego łańcucha myśli.

Czy wersja 0.32a0 nadaje się do produkcji?

To wydanie oznaczone jako pre-release. Wariant alpha dotyczy zarówno pluginu, jak i biblioteki bazowej llm, która ukazała się 29 kwietnia 2026 r. [1][2]. Zakres jest wąski i nie obejmuje późniejszych poprawek.

Od maja 2026 r. projekt poszedł dalej. Wersja llm-gemini 0.32 z 19 maja 2026 r. dodała model gemini-3.5-flash [9]. Wersja 0.33 z 13 sierpnia 2026 r. zaktualizowała plugin do pełnego structured streaming API biblioteki llm 0.32: reasoning, wywołania narzędzi i wyniki narzędzi były emitowane jako typowane zdarzenia, a sygnatury Gemini były zachowywane i odtwarzane przy kolejnych wywołaniach [9][10]. PyPI pokazuje wersję 0.34 z 2 września 2026 r., która obsługuje nowsze modele Gemini, narzędzia serwerowe, embeddings oraz opcje poziomu thinking [5].

Kryteriumllm 0.32a0llm-gemini 0.32a0llm-gemini 0.33llm-gemini 0.34
Data wydania29 kwietnia 2026 r. [2]19 maja 2026 r. [1]13 sierpnia 2026 r. [10]2 września 2026 r. [5]
Zakrestypowane zdarzenia: text, reasoning, narzędzia [2]zgodność z llm>=0.32a0, reasoning tokens [1]pełne structured streaming API, sygnatury Gemini [10]nowsze modele, narzędzia serwerowe, embeddings [5]
Statusalphapre-releasewydanie opublikowaneaktualne na PyPI
Zastosowaniewarstwa bazowatesty i eksperymentypraca z typowanymi zdarzeniaminowe wdrożenia

Które modele Gemini obsługuje plugin?

Zakres modeli zmieniał się wraz z wersjami. Wydanie 0.32 z 19 maja 2026 r. dodało gemini-3.5-flash [9]. Wersja 0.34 obsługuje nowsze modele Gemini, narzędzia serwerowe i embeddings [5].

Aktualną listę modeli warto sprawdzać w dokumentacji Gemini API, bo zmienia się szybciej niż wydania pluginu. Sama biblioteka llm nie udostępnia modeli Gemini samodzielnie, jest warstwą pośrednią [3][4].

Ile to kosztuje?

Plugin jest projektem publicznym, a koszt generowania rozlicza API Google. Dla Gemini 3.8 Flash stawka wynosi 0,75 USD za 1 mln tokenów wejścia i 3,75 USD za 1 mln tokenów wyjścia do 31 grudnia 2026 r., a od 1 stycznia 2027 r. odpowiednio 1,50 USD i 7,50 USD [11]. To ceny oficjalne, stan na październik 2026 r.

Jak zacząć pracę z pluginem?

  1. Zaktualizuj bibliotekę llm do wersji co najmniej 0.32a0, jeśli chcesz korzystać z wydania 0.32a0 pluginu [1][2].
  2. Zainstaluj plugin poleceniem llm install llm-gemini [3].
  3. Sprawdź wersję na PyPI albo w zakładce releases, zanim przypniesz ją w projekcie [5][9].
  4. Odbieraj strumień przez response.stream_events() i obsłuż typy zdarzeń, zamiast zakładać, że odpowiedź to jeden tekst [6].

Sąsiedni materiał o Gemini 3.5 Flash w llm-gemini 0.32 pokazuje praktyczne użycie pluginu. Przy integracji przez API przyda się też tekst o webhookach w Gemini API.

Najczęstsze pytania

Czy llm-gemini jest darmowy?

Plugin jest dostępny publicznie w repozytorium i na PyPI, bez osobnej opłaty za narzędzie [3][5]. Płaci się za użycie modeli po stronie Google według cennika API, który zależy od modelu [11]. Stawki dla nowych modeli zmieniają się wraz z promocjami, dlatego warto je sprawdzić przed wdrożeniem.

Czy potrzebuję klucza API Google?

Tak. Plugin łączy llm z modelami Gemini, więc potrzebne jest uwierzytelnienie po stronie Google [3][11]. Sposób konfiguracji zależy od wersji llm i pluginu, dlatego warto trzymać się dokumentacji projektu [4]. Klucz nie jest częścią biblioteki llm.

Czy strumieniowanie pokazuje pełny tok myślenia modelu?

Nie. Widoczne fragmenty rozumowania to nie surowy łańcuch myśli; dokumentacja opisuje też nieprzezroczyste metadane, takie jak thoughtSignature [7]. Opcja hide_reasoning ukrywa prezentację, ale nie wyłącza procesu rozumowania [7]. Interfejs powinien traktować reasoning jako sygnał pomocniczy, a nie pełny zapis decyzji modelu.

Której wersji używać w nowym projekcie?

W nowym projekcie sensowna jest najnowsza wersja z PyPI, czyli 0.34 z 2 września 2026 r., jeśli potrzebne są nowsze modele i narzędzia serwerowe [5]. Wersja 0.33 z 13 sierpnia 2026 r. jako pierwsza doprowadziła plugin do pełnego structured streaming API [10]. Wydanie 0.32a0 pokazuje moment, w którym strumieniowanie reasoning tokens trafiło do pluginu [1].

Czy aktualizacja llm zepsuje inne pluginy?

Źródła nie opisują konkretnych konfliktów między pluginami po aktualizacji llm. Publikacje projektu skupiają się na zakresie wydań i wymaganiach wersji [1][9][10]. Przed aktualizacją warto sprawdzić wymagania wersji llm w dokumentacji każdego używanego pluginu.

Źródła

  1. Release 0.32a0 · simonw/llm-gemini · GitHub (GitHub, 2026)
  2. Release 0.32a0 · simonw/llm · GitHub (GitHub, 2026)
  3. GitHub - simonw/llm-gemini: LLM plugin to access Google's Gemini family of models (GitHub, 2026)
  4. GitHub - simonw/llm: Access large language models from the command-line (GitHub, 2026)
  5. llm-gemini · PyPI (PyPI, 2026)
  6. Python API - LLM (Datasette, 2026)
  7. LLM - Datasette (Datasette, 2026)
  8. Release: llm-gemini 0.32a0 (Simon Willison, 2026)
  9. Releases · simonw/llm-gemini · GitHub (GitHub, 2026)
  10. Release: llm-gemini 0.33 (Simon Willison, 2026)
  11. Gemini Developer API pricing | Gemini API | Google AI for Developers (Google, 2026)
AN
O autorze
Andrzej Niemiec

Fanatyk nowych technologii i specjalista w zakresie sztucznej inteligencji.

Jak powstają teksty: Polityka AI · O redakcji