”BARE FORDI VI KAN, ER DET IKKE SIKKERT, AT VI SKAL”

Mens IT-systemer med kunstig intelligens er gode til at fange mønstre i den offentlige sektors enorme mængder af persondata, er de indtil nu ikke egnede til at tage bestik af individuelle forhold. Det stiller spørgsmålstegn ved, om kunstig intelligens er egnet til at blive brugt overfor jobsøgende på jobcentre, mener forsker.

Hvordan kan jeg bedst hjælpe den ledige på den anden side af mit skrivebord? Den udfordring er hverdag for tusinde af medarbejdere på jobcentre, a-kasser og resten af det sociale system, der skal hjælpe arbejdsløse videre.

Mens love, bekendtgørelser og cirkulærer skal sikre, at alt går ordentligt for sig, kan deres paragraffer ikke tage højde for alle og alt. Hvad der kan hjælpe et menneske, vil næppe være det bedste for et andet.

Øget interesse for kunstig intelligens

Så hvorfor ikke få hjælp af intelligente IT-systemer, der kan se sammenhænge, vi andre dødelige måske ikke lige opfatter? Umiddelbart synes et bekræftende svar indlysende, ikke?

Desværre er det langt fra tilfældet, mener Naja Holten Møller, adjunkt på Datalogisk Institut, Københavns Universitet, og stifter af ConfrontingData Co-Lab, som særligt har fokus på, hvordan data forandrer den offentlige sektor, og måden samfundet træffer beslutninger på. Sidst har hun sammen med Ph.d.-studerende Asbjørn Ammitzbøll Flügge og Trine Rask Nielsen og professor Thomas Hildebrandt undersøgt, hvordan sagsbehandlere fra forskellige dele af det offentlige – men også de ledige borgere selv – ser på muligheden for at bruge kunstig intelligens i deres arbejde. Forskningsprojektet inkluderede også fem sagsbehandlere på jobcentre.

”Vi ved stort set ingenting om, hvordan borgerne oplever det offentliges brug af data om dem. Dette studie bekræfter, hvad sagsbehandlerne indtil nu har fortalt os, nemlig at brug af flere og nye typer af data ikke må skabe mere afstand mellem borger og sagsbehandler”, siger hun.

Bedre service til lavere omkostninger

Inden vi kommer til farerne og mulighederne ved at anvende kunstig intelligens, sætter forskeren ord på, hvorfor det offentlige arbejder med eller overvejer at anvende kunstig intelligens.

”I dag har den offentlige sektor fået øjnene op for, at den hver dag producerer rigtigt mange data. Hertil kommer de mange data, der findes i forskellige registre. Hen over de sidste par år har det øget interessen for at bruge kunstig intelligens til at udnytte det potentiale, de data udgør,” siger hun.

Egentlig er benzinen på den motor i det offentlige ikke meget anderledes end i private virksomheder, nemlig at kunne levere en bedre service, og gerne til den samme eller (helst) en lavere pris.
”Der er en forestilling om, at kunstig intelligens leverer bedre resultater end mennesker kan. Men nu er vi efterhånden nået dertil, at der er en lidt bredere forståelse i offentligheden om, at jamen hov den kunstige intelligens er faktisk fodret med data, som er leveret af mennesker. Så det er ikke helt så lige til”, siger Naja Holten Møller.

Systemerne bliver udfordret

Med andre ord vil fejl, fordomme eller misforståelser i sagsbehandlingen rejse med ind i intelligente IT-systemer. Både sagsbehandlere og borgere i forskningsprojektet er skeptiske overfor at bruge algoritmer til at automatisere sagsbehandlingen.

”Det, som kunstige intelligens kan, er at se på tværs af rigtigt mange data og store mængder af borgere. Men når det f.eks. handler om et jobcenter, hvor vi har nogle personlige variabler som f.eks. alder eller etnisk herkomst, bliver systemerne udfordret,” siger adjunkten.

På den ene side er det rigtigt, at jobsøgende over de 50 år kan have sværere ved at finde et nyt arbejde. Så set gennem kolde og rationelle briller kan det måske umiddelbart synes at give mening at tilpasse de muligheder, de tilbydes af jobcentret.

”Men er det rimeligt, at du som borger skal ses i lige det lys? Eller skal man i stedet holde fokus på, hvad er det for et menneske, vi står overfor her, med uddannelse, arbejdserfaring og andre personlige forhold, i stedet for at skære alle over en kam, som er fyldt 50 år,” siger Naja Holten Møller.

”Som sagsbehandler skal man kunne se den jobsøgende med friske øjne. Så spørgsmålet er, hvad den kunstige intelligens bidrager med, når du alligevel ikke kan ændre på din alder som borger? Kan vi bruge de systemer til noget andet, hvor de kan give værdi? En anden pointe er, at selv om vi har mange data på borgerne, er de data så de rigtige?”

Hvad kan kunstig intelligens bruges til?

I de forskellige dele af det offentlige bør man nøje overveje, hvor kunstig intelligens er bedst anvendt på jobcentre. Skal den kunstig intelligens f.eks. kunne bruges til at give borgere en ”risiko-score” for langtidsledighed i jobcentre alt efter alder, etnicitet eller andre forhold? Eller er der andre og bedre steder at anvende algoritmer?

Naja Holten Møller opsummerer overvejelserne omkring brug af kunstig intelligens sådan:

”Bare fordi vi kan, er det ikke sikkert, at vi skal.” Nu kunne den kritiske læser måske indvende, at kunstig intelligens jo ikke skal tage beslutningerne. I stedet skal den slags systemer blot understøtte sagsbehandlerne i deres arbejde ved at levere ekstra informationer. Men lige her render man ind i et andet problem, nemlig at vi mennesker ofte har det med at tage tal og data som udtryk for den ultimative sandhed.

”Lidt populært kan man kalde det tallenes magi. Vi ved fra forskningen, at vi som mennesker har det med at tillægge tal en meget stor autoritet. Det handler om at finde ud af, hvad der skal til for, at vi som mennesker reelt er i stand til at udfordre og stille spørgsmålstegn ved de resultater, som den kunstige intelligens kommer frem til,” siger Naja Holten Møller.

Hvad oplever borgerne rent faktisk

I sidste instans handler det om at give de mennesker, som sidder på den anden side af skrivebordet de rigtige redskaber til at forholde sig til det, som sagsbehandlere præsenterer dem for. Her skal man huske, at det sjældent er særligt tydeligt, om der er anvendt kunstig intelligens eller ej. Lige som når vi søger over Google eller anvender andre apps på vores mobiltelefoner kører de intelligente systemer umærkeligt i baggrunden.

”Det vigtige er, om borgerne rent faktisk oplever, at de er i stand til at stille spørgsmålstegn ved, om det nu også er så fornuftigt, det der bliver sagt til dem. Det er en meget vigtig betingelse for at anvende kunstig intelligens, at borgerne er i stand til at forholde sig kritisk til det råd, de får. Det gælder selvfølgelig også sagsbehandleren selv” siger Naja Holten Møller.

”Man er nødt til at vende ligningen om: Det er ikke mennesker, som skal lære at tale den kunstige intelligens sprog. Det er den kunstige intelligens, som skal indrettes, så mennesker kan forstå den og stille spørgsmål med vores fornuft.”

Billedtekst
Naja Holten Møller er adjunkt på Københavns Universitet, Instituttet Software, Data, People & Society, og stifter af ConfrontingData CoLab, som særligt har fokus på, hvordan data forandrer den offentlige sektor og måden samfundet træffer beslutninger. Foto: Søren Jul Lamberth.