LLM

LLM (large language model), czyli duży model językowy, to program wytrenowany na ogromnej ilości tekstu. Potrafi odpowiadać na pytania, streszczać, pisać i tłumaczyć. Stoi za ChatGPT, Claude, Gemini i większością narzędzi reklamowanych jako AI. Popularne modele porównujemy w artykule Najlepsze narzędzia i modele AI.

Model sam z siebie nie sprawdza faktów, tylko układa najbardziej prawdopodobną odpowiedź. Nie zna Twojego cennika, terminów ani regulaminu, a zapytany o nie potrafi z pełnym przekonaniem zmyślić odpowiedź. W zastosowaniach firmowych łączy się go więc z własnymi materiałami przez RAG, a odpowiedzi w ważnych sprawach sprawdza człowiek.

Do czego przydaje się w małej firmie

Najczęstsze zastosowania to odpowiedzi na powtarzalne pytania klientów, wstępne sortowanie zapytań z formularza, pomoc w pisaniu ofert i opisów produktów oraz wyciąganie danych z dokumentów, np. faktur. Modele są dostępne przez API, więc można je wbudować w automatyzacje. Płaci się wtedy za ilość przetworzonego tekstu, więc koszt rośnie razem z liczbą zapytań.

Z modeli językowych korzysta też nasz bezpłatny audyt. Sprawdza, czy asystenci AI polecają daną firmę, a z wyników pomiarów przygotowuje raport zrozumiały dla właściciela.

Na co uważać

Dane wysyłane do modelu trafiają na serwery dostawcy. Przy danych osobowych trzeba sprawdzić warunki usługi i podpisać umowę powierzenia przetwarzania danych. W sprawach zdrowia czy finansów potrzebna jest szczególna ostrożność. Ten sam model potrafi też odpowiedzieć nieco inaczej przy każdym zapytaniu, więc ważne odpowiedzi warto sprawdzać na kilku przykładach.