Prompt

En prompt er den tekst, du giver en sprogmodel for at få et svar. Det kan være et spørgsmål på én linje eller en instruks på tre sider med regler, eksempler og formatkrav. Prompten er den eneste måde, I kan styre en LLM på uden at træne den om. Derfor er den vigtigere, end den lyder.

Hvorfor en prompt ligner en kravspecifikation

Jeg plejer at sige, at en prompt er en kravspecifikation i miniformat. Den siger, hvad opgaven er, hvem modtageren er, hvilke kilder der må bruges, og hvordan svaret skal se ud. Skriver I en uklar prompt, får I et uklart svar. Skriver I en præcis prompt, får I noget, I kan arbejde videre med. Det er samme regel, som gælder, når I giver en opgave til en ny medarbejder.

Forskellen er, at modellen aldrig spørger tilbage, medmindre I beder den om det. Den gætter sig til det, I glemte at skrive. Det er årsagen til de fleste dårlige oplevelser med AI, jeg møder i virksomheder. Værktøjet er ikke problemet. Instruksen er.

Systemprompt og brugerprompt

Når AI bygges ind i en arbejdsgang, arbejder man med to lag. Systemprompten er de faste regler, som virksomheden sætter: tone, sprog, hvad modellen må og ikke må, hvilke data den skal holde sig til. Brugerprompten er det, medarbejderen eller kunden skriver i øjeblikket.

Systemprompten er et ledelsesredskab. Det er der, I skriver, at modellen aldrig må love rabatter, aldrig må gætte på juridiske forhold og altid skal henvise til et menneske ved tvivl. Den bør behandles som en politik: skrevet ned, godkendt, versionsstyret og testet, hver gang den ændres. I de virksomheder, jeg rådgiver, er den ofte skrevet af en udvikler en fredag eftermiddag. Det er ikke godt nok.

Hvad er prompt engineering?

Prompt engineering er håndværket at skrive prompts, der giver stabile resultater. Det handler om rækkefølge, eksempler, tydelige roller og om at bede modellen tænke i trin, før den svarer. Det er et reelt fag, men det er ikke magi. En god prompt kan halvere fejlraten i en opgave. Den kan ikke få modellen til at vide noget, den ikke har adgang til. Skal den svare ud fra jeres data, skal I bruge RAG.

Mit råd til ledelser er at behandle jeres bedste prompts som aktiver. De rummer viden om, hvordan I arbejder. Saml dem ét sted, giv dem en ejer, og mål, om de virker. En prompt, der ligger i en enkelt medarbejders private chat, forsvinder med medarbejderen.

Prompt injection: når input er fjendtligt

Her kommer den del, bestyrelsen skal høre. En sprogmodel kan ikke skelne mellem jeres instruks og tekst, der kommer udefra. Lægger en kunde en skjult besked i en mail, som jeres AI læser, kan den besked overtage styringen. Det kaldes prompt injection, og det er den mest almindelige sårbarhed i AI-løsninger i dag.

Løsningen er ikke en bedre prompt. Løsningen er arkitektur: begræns hvad modellen kan gøre, hold følsomme handlinger bag en menneskelig godkendelse, og behandl alt eksternt input som fjendtligt. Det gælder især, når I kobler AI til handlinger gennem en AI-agent.

Det skal I tage med i ledelsen

Prompts er ikke it. De er sprog, regler og ansvar, og det er ledelsens bord. Beslut, hvem der ejer systemprompterne, hvordan de godkendes, og hvordan I tester dem. Og træn medarbejderne i at skrive klare instrukser. Det er den billigste AI-investering, I kan gøre, og den med hurtigst effekt.