LLMs w akcji Od modeli językowych do dochodowych..

Opis

LLMs w akcji. Od modeli językowych do dochodowych produktówDuże modele językowe (LLM) rewolucjonizują branżę IT, oferując bezprecedensowe możliwości w zakresie przetwarzania języka naturalnego. ChatGPT i podobne rozwiązania pokazały ogromny potencjał tej technologii, ale wdrożenie LLM w środowiskach produkcyjnych to znacznie więcej niż tylko korzystanie z gotowych API. Książka wypełnia lukę między teorią a praktyką, pokazując, jak przekształcić fascynujące demonstracje w działające produkty biznesowe. Stanowi doskonałe uzupełnienie publikacji Sebastiana Raschki Stwórz własne AI. Jak od podstaw zbudować duży model językowy, skupionej na budowaniu i zrozumieniu LLM od podstaw rozszerza tę wiedzę o praktyczne zastosowania w produkcji, w tym integrację, efektywne kosztowo trenowanie modeli i ocenę ich jakości.[JB1.1]Autorzy prowadzą czytelnika przez kompletny proces od wyboru odpowiedniego modelu bazowego, przez przygotowanie danych treningowych i techniki dostrajania, aż po wdrożenie w klastrze Kubernetes. Prezentują przy tym trzy praktyczne projekty: budowę własnego modelu LLM od podstaw, stworzenie rozszerzenia AI dla VS Code i wdrożenie modelu na Raspberry Pi. Szczególny nacisk kładą na aspekty produkcyjne zarządzanie kosztami, bezpieczeństwo, skalowanie i monitorowanie systemów opartych na LLM.

W książce:Kompletny przewodnik po LLMOpsPraktyczne techniki kompresji i optymalizacji (kwantyzacja, LoRA, destylacja wiedzy)Inżynieria promptów i budowa agentów AIImplementacja systemów RAG z wektorowymi bazami danychZarządzanie infrastrukturą Kubernetes dla aplikacji AIBezpieczeństwo, kontrola kosztów i monitorowanie systemów LLMOd teorii do produkcji praktyczny przewodnik po wdrażaniu LLM