AI er ikke længere kun noget, man åbner i et chatvindue for at få hjælp til at skrive en tekst, opsummere et dokument eller få idéer til en opgave. Teknologien er på vej ind i de fagsystemer, der understøtter centrale offentlige opgaver. Det gælder alt fra dokumentation og journalisering til digitale selvbetjeningsløsninger.

Det ændrer præmissen. For når AI bliver en del af de systemer, hvor medarbejdere i den offentlige sektor løser deres daglige opgaver, bliver nogle af de spørgsmål, organisationerne allerede stiller til deres it-løsninger, endnu vigtigere. Det gælder blandt andet ansvar, databehandling, gennemsigtighed og faglig kontrol.

Kan medarbejderen bevare kontrollen? Kan resultaterne forklares? Hvor behandles data? Og understøtter teknologien fagligheden, eller risikerer den at skubbe den i baggrunden?

Det er spørgsmål, der ikke kun optager fagpersoner, it-chefer og jurister. De fylder også hos de leverandører, der udvikler næste generation af fagsystemer til den offentlige sektor.

Her er Ole Vilster en af dem, der er helt tæt på udviklingen. Som Head of Product Management i EG Digital Welfare er han med til at udvikle fagsystemer, hvor AI bliver en integreret del af medarbejdernes daglige arbejdsgange. Og hans vigtigste råd er måske mindre teknologibegejstret, end mange kunne forvente.

Mange organisationer har travlt med at finde ud af, hvordan de skal bruge AI. Men ifølge Ole Vilster er det ofte det forkerte sted at starte.

"Store, tunge AI-projekter lykkes sjældent. De første ‘hurra for AI’-flagskibsprojekter fejlede. De var for lange, kunde-feedback kom for sent, og de var ikke tæt nok på fagligheden. Løsninger skal udvikles i tæt dialog med brugerne, og i små, kontrollerede skridt. Vi tester hurtigt, bygger prototyper, afprøver i praksis og skalerer det, der virker," siger Ole Vilster.

Pointen er, at AI først skaber værdi, når teknologien løser et konkret problem i en eksisterende arbejdsgang. Ikke når den lægges ovenpå som endnu et værktøj.

Derfor handler udvikling af AI ifølge Ole Vilster i høj grad om at forstå brugernes behov og arbejdsgange.

“AI-funktionalitet udvikles i partnerskab med de faglige brugere, så vi sikrer forankring i de daglige arbejdsgange. Det lyder måske mindre visionært end store AI-projekter og flerårige satsninger. Til gengæld øger det chancen for, at løsningen faktisk bliver brugt,” siger han.

Der er en tendens til, at snak om AI bliver et spørgsmål om teknologi. Men når teknologien flytter ind i fagsystemerne, bliver det hurtigt tydeligt, at de største udfordringer ligger et andet sted.

"Flaskehalsen er ikke længere udvikling, men i stigende grad sikkerhed, jura og godkendelsesprocesser. AI-systemer udvikler sig løbende. De håndterer data, indgår i arbejdsgange og bidrager til beslutningsgrundlag. Derfor bliver spørgsmål om dokumentation, risikovurdering og ansvar en del af selve løsningen, og ikke noget, man bare kan håndtere bagefter," siger Ole Vilster.

AI skal støtte fagligheden, men ikke overtage den

Når AI bliver en del af dokumentation, journalisering og sagsbehandling, opstår et centralt spørgsmål: Hvor går grænsen mellem hjælp og automatisering? Her er Ole Vilster ikke i tvivl:

"AI'en må gerne strukturere tekst, men ikke tilføje nye oplysninger. Den skal hjælpe fagpersoner med at formulere sig bedre, ikke tænke for dem.”

Det er en vigtig pointe, fordi dokumentation i mange fagsystemer ikke bare er tekst. Dokumentation indgår i beslutninger, opfølgning og borgerforløb. Derfor er det afgørende, at medarbejderen fortsat ejer den faglige vurdering og kan stå på mål for indholdet. AI skal understøtte fagligheden, ikke være en ghostwriter, mener Ole Vilster:

”Tilgangen handler i bund og grund om ejerskab. Medarbejderen skal kunne forstå resultatet, stå inde for det og vide, hvad der er menneskets vurdering, og hvad der er teknologiens bidrag”.

AI fylder mere og mere i dialogen mellem offentlige ordregivere og leverandører af fagsystemer til den offentlige sektor. Men ifølge Ole Vilster er det ikke nok at spørge, om en løsning indeholder AI. Det afgørende er, hvordan teknologien påvirker medarbejdernes arbejde og ansvar.

"Giver det medarbejderen mere ejerskab eller mindre? Er AI indlejret i workflowet, eller er det generisk funktionalitet, der er lagt ovenpå? Kan AI-funktionen slås fra, og kan medarbejderen altid forklare og stå inde for det, der er dokumenteret? Den type spørgsmål flytter fokus fra teknologi til anvendelse. Fra funktioner til konsekvenser," siger Ole Vilster.

Nye teknologier kræver nye krav

Efterhånden som AI bliver en mere integreret del af fagsystemer og andre forretningskritiske løsninger, vokser behovet for klare rammer omkring databehandling, gennemsigtighed, sikkerhed og ansvar.

Det er noget, som både offentlige organisationer og leverandører i stigende grad må forholde sig til som en del af indkøbet og kontraktindgåelsen.

Udviklingen afspejler sig også i arbejdet med fremtidige offentlige it-aftaler, hvor spørgsmålet ikke længere er, om AI bliver en del af løsningerne, men hvordan den håndteres på en ansvarlig og gennemsigtig måde. Krav til databehandling, sikkerhed, compliance og AI-anvendelse fylder allerede i dialogen med markedet.

Hvis man skal koge Ole Vilsters vigtigste budskab ned til én sætning, er det dog denne:

"AI handler i sidste ende ikke om teknologi, men om værdiskabelse, faglighed og kontrol."