Alan Balcerowiak

Notatki

O lokalnych modelach językowych, RAG po polsku i asystentach AI, którym można zaufać. Z praktyki, bez marketingu.

  1. Dlaczego instrukcja w prompcie nie zatrzyma halucynacji i jak przenieść decyzję o odmowie do architektury: filtr trafności, warstwa decyzyjna, zestaw regresyjny.

    Czytaj →

  2. Cztery klocki lokalnego stosu (vLLM, BGE-M3, ChromaDB, FastAPI), jak myśleć o pamięci GPU i gdzie naprawdę traci się czas przy wdrożeniu.

    Czytaj →

  3. Tool calling, w którym odpowiedź pochodzi z danych, a tryb tylko do odczytu wynika z konstrukcji systemu, nie z prośby w prompcie.

    Czytaj →