Systemprompt

En systemprompt er de faste regler, en virksomhed giver sin sprogmodel, før nogen bruger den. Den beskriver, hvem modellen skal være, hvordan den skal tale, hvad den må og ikke må, og hvilke kilder den skal holde sig til. Brugeren ser den aldrig. Men den bestemmer alt, hvad brugeren oplever. Derfor er systemprompten det sted i en AI-løsning, hvor ledelsens beslutninger faktisk bliver til noget.

To lag: system og bruger

Når AI bygges ind i en arbejdsgang, arbejder man med to lag. Systemprompten er virksomhedens lag: fast, godkendt, ens for alle. Brugerprompten er det, medarbejderen eller kunden skriver i øjeblikket. Modellen læser begge dele sammen og forsøger at følge dem. Konflikter opstår, når brugeren beder om noget, systemet forbyder, og det er præcis der, en god systemprompt viser sit værd.

Hvad en systemprompt bør indeholde

Rolle og formål: hvad løsningen er til, og hvad den ikke er til. Tone: dansk, du eller De, kort eller uddybende. Grænser: hvad modellen aldrig må gøre, fx love priser, gætte på jura, udtale sig om konkurrenter eller fortsætte en samtale om personfølsomme forhold. Kilder: hvilke dokumenter og data svaret skal bygge på, typisk gennem RAG, og hvad den skal gøre, når svaret ikke findes der. Overlevering: hvornår den skal sende sagen videre til et menneske, og hvordan. Og format: hvordan svaret skal se ud, så det passer ind i næste led.

Det lyder som meget. En god systemprompt fylder ofte en til tre A4-sider. Det er ikke for langt. Det svarer til den instruks, I ville give en ny medarbejder i kundeservice den første dag, og den ville også fylde et par sider.

Systemprompten er en politik, ikke kode

I de fleste virksomheder, jeg møder, er systemprompten skrevet af en udvikler eller en leverandør, og ingen i ledelsen har læst den. Det er et problem. Systemprompten er det sted, hvor jeres holdning til kunder, sprog, ansvar og regler bliver omsat til adfærd, tusindvis af gange om dagen. Den bør behandles som en politik: skrevet i et sprog, ledelsen kan læse, godkendt af den, der har ansvaret for området, versionsstyret, så I kan se, hvad der gjaldt hvornår, og testet, hver gang den ændres.

Test betyder konkret, at I har en fast samling af spørgsmål og forventede svar, som køres igennem, før en ny version går i drift. Ændrer I en linje, kan svar et andet sted ændre sig. Uden test opdager I det først, når en kunde gør.

Sikkerhed

To ting skal siges tydeligt. For det første er systemprompten ikke hemmelig. En vedholdende bruger kan ofte få modellen til at afsløre den. Skriv derfor aldrig adgangskoder, interne priser eller andet fortroligt i den. For det andet beskytter systemprompten ikke mod prompt injection. Regler i prompten kan omgås af tekst udefra. Det, der faktisk beskytter, er rammerne uden om modellen: hvad den kan gøre, og hvad der kræver et menneske.

Det skal ledelsen beslutte

Hvem ejer systemprompterne i jeres løsninger? Hvem godkender ændringer? Hvordan testes de? Og har nogen i ledelsen læst dem? Kan I svare på de fire spørgsmål, har I styr på den vigtigste del af jeres AI. Kan I ikke, ved I ikke, hvad jeres AI siger til kunderne lige nu.