Tokenizacja i embedding
Jak model dzieli tekst na tokeny i zamienia je na wektory. Do tego różnica między modelem bazowym a instrukcyjnym, etapy treningu i kalkulator kosztów API.
Parametry generowania
Jak temperature, top-p i top-k zmieniają losowość odpowiedzi. Strona pokazuje też wymuszanie odpowiedzi w JSON i porównuje czatu, lokalnego modelu i API.
RAG i fine-tuning
Okno kontekstowe, Retrieval-Augmented Generation krok po kroku i wybór między RAG a fine-tuningiem.
Agenci AI
Cykl działania agenta: planowanie, wybór narzędzia, wykonanie i refleksja. Symulacja zadania i różnica między agentem a chatbotem.
Bezpieczeństwo LLM
Halucynacje, prompt injection i wycieki danych oraz guardrails, czyli zabezpieczenia, które chronią przed nimi aplikację.
LLM przez API
Role w rozmowie (system, user, assistant), budowa zapytania do API i function calling.