LLM (veľký jazykový model)
Jazykový model
LLM (Large Language Model, veľký jazykový model) je typ umelej inteligencie trénovaný na obrovskom množstve textu, ktorý dokáže rozumieť jazyku a generovať ho. Funguje tak, že na základe predchádzajúceho textu predpovedá najpravdepodobnejšie pokračovanie slovo po slove, kým nezostaví celú odpoveď.
Ako LLM funguje
Veľký jazykový model sa počas trénovania učí z obrovského množstva textu a zachytáva v ňom štatistické vzťahy medzi slovami a pojmami. Keď mu zadáte otázku alebo pokyn, model nehľadá odpoveď v databáze, ale postupne predpovedá najpravdepodobnejšie ďalšie slová tak, aby výsledok dával zmysel.
Práve preto je dôležité, ako svoju požiadavku sformulujete. Text, ktorý modelu zadáte, sa nazýva prompt a jeho kvalita priamo ovplyvňuje kvalitu odpovede. Model si zároveň pamätá iba obmedzený rozsah textu naraz, takže pri dlhých konverzáciách môže na staršie detaily zabudnúť.
Na čo sa LLM hodí
LLM exceluje v úlohách spojených s jazykom. Vo firme ich využijete na prácu, ktorá by inak zabrala veľa času pri písaní alebo čítaní textu. Najlepšie fungujú ako pomocník, ktorého výstup ešte skontroluje človek.
- Písanie a úprava textov pre web, e-maily a marketing.
- Zhrnutie dlhých dokumentov, prepisov a správ do pár viet.
- Preklady a úprava tónu textu pre rôzne publiká.
- Odpovede na otázky zákazníkov v chatbote alebo na podpore.
Kde sú hranice LLM
LLM negarantuje pravdivosť. Keď nemá dostatok informácií, môže si odpoveď vymyslieť a podať ju presvedčivo. Tomuto javu sa hovorí halucinácia. Model tiež pozná len to, na čom bol trénovaný, takže o najnovších udalostiach alebo o vašich interných dátach sám nevie. Tieto medzery sa riešia napríklad metódou RAG, ktorá modelu dodá relevantné podklady.
Chcete naučiť tím pracovať s jazykovými modelmi?
Pozrite si naše AI školenieČasto kladené otázky
Sú odpovede LLM vždy pravdivé?
Nie. Model generuje text na základe pravdepodobnosti, nie z overenej databázy faktov, preto môže znieť isto aj vtedy, keď sa mýli. Pri dôležitých informáciách je vždy potrebné výstup overiť alebo modelu dodať spoľahlivé podklady.
Vie LLM pracovať s mojimi firemnými dátami?
Sám od seba nie, pozná len to, na čom bol trénovaný. Prístup k vašim dokumentom a dátam mu však viete dať cez prístup zvaný RAG, ktorý do odpovede pridá relevantné informácie z vašich zdrojov.
Je bezpečné vkladať do LLM citlivé údaje?
Závisí to od konkrétneho nástroja a jeho podmienok. Pri verejných službách treba byť opatrný s osobnými a obchodnými údajmi. Pre prácu s citlivými dátami sa volia riešenia s jasnými pravidlami spracovania a uchovávania.