LLM

LLM står for large language model, på dansk en stor sprogmodel. Det er den teknologi, der sidder bag ChatGPT, Claude, Gemini og Copilot. Når nogen i jeres ledergruppe siger AI, mener de næsten altid en LLM. Derfor er det her ordet, jeg beder direktioner om at forstå først.

Hvad er en LLM, sagt så en bestyrelse kan bruge det

En sprogmodel har læst enorme mængder tekst og har lært, hvilke ord der plejer at følge efter hinanden. Når I skriver til den, regner den sig frem til det mest sandsynlige næste ord, og så det næste igen. Det er hele tricket. Der er ingen forståelse, ingen hukommelse om jeres virksomhed og ingen holdning til, om svaret er sandt.

Alligevel er resultatet imponerende. Modellen skriver flydende dansk, opsummerer 40 sider på et minut og svarer på spørgsmål i et sprog, alle kan følge. Det er netop styrken, der gør den farlig, hvis ingen leder den. Den lyder lige så sikker, når den tager fejl.

Fem ting jeg vil have en direktion til at vide

For det første: en LLM gætter. Den kan finde på tal, kilder og paragraffer, der ikke findes. I branchen kaldes det hallucination. Det er ikke en fejl, der bliver rettet i næste version. Det er sådan, teknologien virker. Derfor skal der et menneske til at godkende alt, der har konsekvens.

For det andet: modellen kender ikke jeres forretning. Den kender internettet frem til en bestemt dato. Skal den svare rigtigt om jeres kunder, aftaler og procedurer, skal den have adgang til jeres data. Metoden hedder RAG, og den kræver, at nogen har taget stilling til, hvilke data der må bruges.

For det tredje: det, I skriver til modellen, forlader huset. Medmindre I har en aftale, der siger noget andet, ender jeres tekst hos leverandøren. Læs kontrakten, før medarbejderne kopierer kundemails ind i et chatvindue. Det er et GDPR-spørgsmål, længe før det er et it-spørgsmål.

For det fjerde: prisen er ikke problemet. Store modeller lejes pr. forbrug, målt i tokens, og prisen falder år for år. Det dyre er arbejdet med at få modellen ind i en arbejdsgang med de rigtige rammer. Budgettet skal ligge der, ikke på licenser.

For det femte: modellerne skiftes ud. Den bedste model i dag er ikke den bedste om et år. Byg jeres løsninger, så modellen kan udskiftes uden at forretningen står stille. Spørg leverandøren, hvad det koster at skifte. Er svaret uklart, har I fundet jeres første risiko.

Hvor en LLM giver mening i jeres forretning

De sikre gevinster ligger der, hvor der er meget tekst og et menneske til at kontrollere. Udkast til svar, opsummering af sager, søgning i egne dokumenter, oversættelse og referater. Det er kedeligt arbejde med volumen, og det er præcis der, en sprogmodel betaler sig.

De usikre steder er der, hvor svaret har konsekvens, og ingen kontrollerer. Kreditvurdering, HR-beslutninger, rådgivning til kunder uden menneske i loopet. Her skal I ikke bare spørge, om modellen kan. I skal spørge, hvem der har ansvaret, når den tager fejl. Det er også der, AI-forordningen begynder at stille krav.

Det skal ledelsen beslutte

Ikke hvilken model. Det skifter. Ledelsen skal beslutte tre ting: hvilke opgaver AI må bruges til, hvilke data den må se, og hvem der godkender resultatet. Med de tre svar kan it og leverandører bygge noget, der holder. Uden dem får I hundrede private eksperimenter og ingen effekt på bundlinjen.

Mit råd er altid det samme. Start med én proces, der koster tid hver uge. Sæt en sprogmodel på, mål effekten i timer og fejl, og beslut så, om I skal gå videre. Det er ledelse af AI i praksis. Mennesker sætter retningen, modellen leverer, og mennesker beslutter.