Narzędzia AI
llm-gemini 0.32a0: strumieniowanie tokenów rozumowania w Gemini
Zaktualizowano: Autor: Andrzej Niemiec10 min czytania
llm-gemini 0.32a0 z 19 maja 2026 r. dodał strumieniowanie tokenów rozumowania Gemini. Co zmieniło się w llm 0.32a0 i która wersja nadaje się do pracy.
Spis treści
- Co dokładnie wydano 19 maja 2026 roku?
- Czym llm różni się od llm-gemini?
- Jak działa strumieniowanie tokenów rozumowania?
- Czy tokeny rozumowania to pełny tok myślenia modelu?
- Czy wersja 0.32a0 nadaje się do produkcji?
- Które modele Gemini obsługuje plugin?
- Ile to kosztuje?
- Jak zacząć pracę z pluginem?
- Najczęstsze pytania
- Źródła
Co dokładnie wydano 19 maja 2026 roku?
Nowa wersja pluginu, nie nowy model. Wydanie llm-gemini 0.32a0 opublikowano 19 maja 2026 r. o 20:47. Zakres obejmował dwie zmiany: zgodność z biblioteką llm w wersji co najmniej 0.32a0 oraz strumieniowanie tokenów rozumowania [1]. Biblioteka bazowa llm 0.32a0 ukazała się 29 kwietnia 2026 r., trzy tygodnie wcześniej [2].
llm-gemini daje dostęp do rodziny modeli Gemini z poziomu llm [3]. Opis samego produktu Google znajduje się w osobnym materiale o Gemini, który zbiera informacje o aplikacji, modelach i planach.
Czym llm różni się od llm-gemini?
To dwie osobne warstwy. llm to biblioteka i narzędzie wiersza poleceń do pracy z modelami językowymi [4]. llm-gemini to plugin, który dodaje do niej obsługę modeli Gemini [3]. Plugin nie jest produktem Google: repozytorium prowadzi Simon Willison, a PyPI wskazuje go jako autora i publikuje kolejne wersje projektu [5].
Numery wersji obu elementów są powiązane. Plugin 0.32a0 wymagał llm w wersji co najmniej 0.32a0, więc aktualizacja samego pluginu nie dawała dostępu do nowych zdarzeń strumieniowych [1][2]. To najczęstsze źródło nieporozumień przy pierwszej instalacji, bo kolejność aktualizacji ma znaczenie.
Jak działa strumieniowanie tokenów rozumowania?
Odpowiedź przychodzi w typowanych zdarzeniach, a nie jako jeden blok tekstu. Biblioteka llm 0.32a0 wprowadziła zdarzenia text, reasoning, wywołania narzędzi i wyniki narzędzi [2]. Iterowanie po zwykłym obiekcie odpowiedzi nadal zwracało tylko tekst, natomiast pełny strumień odbierało się przez response.stream_events() [6].
W kodzie oznacza to pętlę po zdarzeniach i reakcję na ich typ. Fragment tekstu trafia do interfejsu, zdarzenie reasoning można pokazać albo pominąć, a wywołanie narzędzia uruchamia funkcję w aplikacji. Taki układ pozwala przerwać odbiór bez czekania na koniec generowania.
Czy tokeny rozumowania to pełny tok myślenia modelu?
Nie, i to rozróżnienie ma znaczenie przy budowie interfejsów. Dokumentacja opisuje widoczne fragmenty rozumowania oraz nieprzezroczyste metadane, takie jak sygnatura thoughtSignature [7]. Opcja hide_reasoning ukrywa prezentację tych fragmentów, ale niekoniecznie wyłącza sam proces rozumowania modelu [7].
Autor pluginu opisał wydanie we wpisie z 19 maja 2026 r., wskazując wprost na strumieniowanie reasoning tokens [8]. To sformułowanie dotyczy widocznych tokenów rozumowania, a nie surowego łańcucha myśli.
Czy wersja 0.32a0 nadaje się do produkcji?
To wydanie oznaczone jako pre-release. Wariant alpha dotyczy zarówno pluginu, jak i biblioteki bazowej llm, która ukazała się 29 kwietnia 2026 r. [1][2]. Zakres jest wąski i nie obejmuje późniejszych poprawek.
Od maja 2026 r. projekt poszedł dalej. Wersja llm-gemini 0.32 z 19 maja 2026 r. dodała model gemini-3.5-flash [9]. Wersja 0.33 z 13 sierpnia 2026 r. zaktualizowała plugin do pełnego structured streaming API biblioteki llm 0.32: reasoning, wywołania narzędzi i wyniki narzędzi były emitowane jako typowane zdarzenia, a sygnatury Gemini były zachowywane i odtwarzane przy kolejnych wywołaniach [9][10]. PyPI pokazuje wersję 0.34 z 2 września 2026 r., która obsługuje nowsze modele Gemini, narzędzia serwerowe, embeddings oraz opcje poziomu thinking [5].
| Kryterium | llm 0.32a0 | llm-gemini 0.32a0 | llm-gemini 0.33 | llm-gemini 0.34 |
|---|---|---|---|---|
| Data wydania | 29 kwietnia 2026 r. [2] | 19 maja 2026 r. [1] | 13 sierpnia 2026 r. [10] | 2 września 2026 r. [5] |
| Zakres | typowane zdarzenia: text, reasoning, narzędzia [2] | zgodność z llm>=0.32a0, reasoning tokens [1] | pełne structured streaming API, sygnatury Gemini [10] | nowsze modele, narzędzia serwerowe, embeddings [5] |
| Status | alpha | pre-release | wydanie opublikowane | aktualne na PyPI |
| Zastosowanie | warstwa bazowa | testy i eksperymenty | praca z typowanymi zdarzeniami | nowe wdrożenia |
Które modele Gemini obsługuje plugin?
Zakres modeli zmieniał się wraz z wersjami. Wydanie 0.32 z 19 maja 2026 r. dodało gemini-3.5-flash [9]. Wersja 0.34 obsługuje nowsze modele Gemini, narzędzia serwerowe i embeddings [5].
Aktualną listę modeli warto sprawdzać w dokumentacji Gemini API, bo zmienia się szybciej niż wydania pluginu. Sama biblioteka llm nie udostępnia modeli Gemini samodzielnie, jest warstwą pośrednią [3][4].
Ile to kosztuje?
Plugin jest projektem publicznym, a koszt generowania rozlicza API Google. Dla Gemini 3.8 Flash stawka wynosi 0,75 USD za 1 mln tokenów wejścia i 3,75 USD za 1 mln tokenów wyjścia do 31 grudnia 2026 r., a od 1 stycznia 2027 r. odpowiednio 1,50 USD i 7,50 USD [11]. To ceny oficjalne, stan na październik 2026 r.
Jak zacząć pracę z pluginem?
- Zaktualizuj bibliotekę llm do wersji co najmniej 0.32a0, jeśli chcesz korzystać z wydania 0.32a0 pluginu [1][2].
- Zainstaluj plugin poleceniem llm install llm-gemini [3].
- Sprawdź wersję na PyPI albo w zakładce releases, zanim przypniesz ją w projekcie [5][9].
- Odbieraj strumień przez response.stream_events() i obsłuż typy zdarzeń, zamiast zakładać, że odpowiedź to jeden tekst [6].
Sąsiedni materiał o Gemini 3.5 Flash w llm-gemini 0.32 pokazuje praktyczne użycie pluginu. Przy integracji przez API przyda się też tekst o webhookach w Gemini API.
Najczęstsze pytania
Czy llm-gemini jest darmowy?
Plugin jest dostępny publicznie w repozytorium i na PyPI, bez osobnej opłaty za narzędzie [3][5]. Płaci się za użycie modeli po stronie Google według cennika API, który zależy od modelu [11]. Stawki dla nowych modeli zmieniają się wraz z promocjami, dlatego warto je sprawdzić przed wdrożeniem.
Czy potrzebuję klucza API Google?
Tak. Plugin łączy llm z modelami Gemini, więc potrzebne jest uwierzytelnienie po stronie Google [3][11]. Sposób konfiguracji zależy od wersji llm i pluginu, dlatego warto trzymać się dokumentacji projektu [4]. Klucz nie jest częścią biblioteki llm.
Czy strumieniowanie pokazuje pełny tok myślenia modelu?
Nie. Widoczne fragmenty rozumowania to nie surowy łańcuch myśli; dokumentacja opisuje też nieprzezroczyste metadane, takie jak thoughtSignature [7]. Opcja hide_reasoning ukrywa prezentację, ale nie wyłącza procesu rozumowania [7]. Interfejs powinien traktować reasoning jako sygnał pomocniczy, a nie pełny zapis decyzji modelu.
Której wersji używać w nowym projekcie?
W nowym projekcie sensowna jest najnowsza wersja z PyPI, czyli 0.34 z 2 września 2026 r., jeśli potrzebne są nowsze modele i narzędzia serwerowe [5]. Wersja 0.33 z 13 sierpnia 2026 r. jako pierwsza doprowadziła plugin do pełnego structured streaming API [10]. Wydanie 0.32a0 pokazuje moment, w którym strumieniowanie reasoning tokens trafiło do pluginu [1].
Czy aktualizacja llm zepsuje inne pluginy?
Źródła nie opisują konkretnych konfliktów między pluginami po aktualizacji llm. Publikacje projektu skupiają się na zakresie wydań i wymaganiach wersji [1][9][10]. Przed aktualizacją warto sprawdzić wymagania wersji llm w dokumentacji każdego używanego pluginu.
Źródła
- Release 0.32a0 · simonw/llm-gemini · GitHub (GitHub, 2026)
- Release 0.32a0 · simonw/llm · GitHub (GitHub, 2026)
- GitHub - simonw/llm-gemini: LLM plugin to access Google's Gemini family of models (GitHub, 2026)
- GitHub - simonw/llm: Access large language models from the command-line (GitHub, 2026)
- llm-gemini · PyPI (PyPI, 2026)
- Python API - LLM (Datasette, 2026)
- LLM - Datasette (Datasette, 2026)
- Release: llm-gemini 0.32a0 (Simon Willison, 2026)
- Releases · simonw/llm-gemini · GitHub (GitHub, 2026)
- Release: llm-gemini 0.33 (Simon Willison, 2026)
- Gemini Developer API pricing | Gemini API | Google AI for Developers (Google, 2026)
Fanatyk nowych technologii i specjalista w zakresie sztucznej inteligencji.
Jak powstają teksty: Polityka AI · O redakcji