JURAEN STÅR I VEJEN: AI MÅ IKKE VÆLGE DEN BEDSTE JOBKANDIDAT
Alle, der har siddet med en tårnhøj stabel af printede ansøgninger, kender den drænende fornemmelse. Det tager dagevis – hvis ikke ugevis – at læse de hundredvis af ansøgninger, man risikerer at få til blot en enkelt ny stilling.
Derfor har det også længe været en hed drøm at kunne få computeren til at udvælge den bedste kandidat blandt tusinder. Ikke bare for at spare ressourcer, men også for at sikre, at det virkelig er den bedste kandidat, man vælger.
Især de seneste års hype omkring kunstig intelligens har fået forhåbningerne til at stige i HR-afdelingerne rundt om i landet. Men problemerne står decideret i kø, når man først kigger nærmere på mulighederne.
”Vi har bildt os selv ind, at mennesker er guld-standarden, når det kommer til at bedømme ansøgninger og give folk respons. Men hvis du spørger folk, der har fået afslag på et jobopslag, så har de næsten alle sammen fået et standard-afslag uden reel begrundelse.”
Anders Kofod-Petersen, AI-forsker, Alexandra Instituttet
Juristen: Du har ret til at slippe
Hvis man drømmer om IT-systemer, der automatisk sorterer i tusindvis af jobansøgninger, sletter de dårligste og underskriver kontrakt med den bedste kandidat, så kan man godt glemme det med det samme.
”Man har som borger ret til, ikke at blive gjort til genstand for automatiske afgørelser,” forklarer Allan Frank, der er IT-sikkerhedsspecialist og Cand. Jur. hos Datatilsynet.
Han forklarer, at reglen gælder lige så snart en afgørelse påvirker os betydeligt, og det vurderer han, at et afslag på en jobansøgning godt kan falde ind under. Dermed forsvinder en del af rationalet også, hvis alle ansøgninger alligevel skal bedømmes af et menneske, mener han.
Allan Frank understreger dog, at man gerne må bruge kunstig intelligens til dele af processen – f.eks. til at gennemlæse ansøgninger og uddrage oplysninger. Men man skal stadig overholde de generelle regler – f.eks. må man ikke sortere efter usaglige kriterier som alder, køn eller etnicitet.
Derudover er det også et krav rent juridisk, at der skal være et udtrykkeligt samtykke til profilering som skal være frivilligt. Man kan altså ikke sortere ansøgere fra, som modsætter sig at indgå i en profilering. Nok så væsentligt, skal det være gennemsigtigt, hvad der foregår.
”Hvis man udsætter folk for profilering, så skal virksomheden gøre opmærksom på det, og folk har som minimum ret til at kende logikken bag og de forventede konsekvenser. Man må altså gerne skabe rammerne for en rangering, så længe afgørelsen bliver truffet af en fysisk person,” understreger han.
Datatilsynet har endnu ikke modtaget klager eller truffet afgørelser på området, og Allan Frank vurderer, det nok skyldes, at virksomhederne mest taler om mulighederne.
”Det her område interesserer virksomhederne meget, men de er ikke nået så langt endnu. Når man går dem på klingen, så er det noget de vil – ikke noget de reelt gør,” siger Allan Frank.
Professoren: Plads til diversitet
En af dem der selv har researchet på mulighederne inden for rekruttering med kunstig intelligens er Anders Kofod-Petersen der er AI-forsker ved Alexandra Instituttet og professor ved Norges Teknisk-Naturvidenskabelige Universitet.
Han ser et stort potentiale inden for rekruttering generelt – ikke bare med sortering af ansøgninger. Det handler i lige så høj grad om at få hjælp til at skrive jobopslag, som tiltrækker de rette ansøgere.
”Vi ved, at der findes kvindeligt og mandligt sprog og et godt AI-system kunne foreslå sætninger, som var kønsneutrale, så du kunne tiltrække flere forskellige ansøgere og skabe større diversitet på arbejdspladsen,” siger Anders Kofod-Petersen.
Et andet værktøj, der efter hans vurdering rykker ind på markedet, er sentiment-analyser, hvor man kan rubricere ansøgere inden for syv forskellige profiltyper.
”Når man lægger det hele sammen, kan man bygge et forholdsvist kompliceret billede af ansøgeren – også af ting, der ikke står i ansøgningen.”
I 2019 testede han sammen med kollegaer, om det var muligt at udvikle en algoritme, der kunne bedømme en stribe kandidaters faglige kunnen og levere en liste med topkandidater til et ansættelsesudvalg. I det konkrete forsøg kiggede algoritmerne specifikt på IT-folks faglige kunnen. Det gik over al forventning.
”I vores test-forsøg blev den liste med kandidater, som vores algoritme leverede, faktisk bedømt til at være bedre end de lister, som HR-bureauer leverede,” fortæller Anders Kofod-Petersen.
”Det her område interesserer virksomhederne meget, men de er ikke nået så langt endnu. Når man går dem på klingen, så det noget de vil – ikke noget de reelt gør.”
Allan Frank, IT-specialist og Cand. Jur., Datatilsynet
Sproget er en barriere
Han erkender dog, at teknologien endnu ikke er helt klar og mener, at en af hovedårsagerne er, at den sproganalyse, teknologien skal baseres på, ikke er nået nær så langt på dansk som på engelsk.
”Der er sket store fremskridt inden for de her områder, men vi er bagefter, og det er faktisk svært at finde danske eksempler, hvor man reelt benytter sig af kunstig intelligens på højt niveau til rekruttering.”
Han mener dog, at der er sket store fremskridt inden for de sidste par år – også på dansk og, at vi nærmer os det niveau, hvor man snart kan realisere nogle af mulighederne.
Er mennesker ”guld-standarden”?
Anders Kofod-Petersen peger på, at det ikke kun behøver at handle om selve udvælgelsen. Der er mange andre områder, hvor computere og især kunstig intelligens kan gøre det bedre end mennesker, når det drejer som om rekruttering.
”Vi har bildt os selv ind, at mennesker er guld-standarden, når det kommer til at bedømme ansøgninger og give folk respons. Men hvis du spørger folk, der har fået afslag på et jobopslag, så har de næsten alle sammen fået et standard-afslag uden reel begrundelse. Det kan en computer gøre langt bedre, fordi den kan give en reel forklaring.”
Han peger på, at vi som mennesker tit tager beslutninger, som enten er irrationelle eller, som vi ikke er i stand til at sætte ord på.
”Jeg kan sikkert forklare, hvorfor jeg specifikt har udvalgt en som dencbedste på listen, men bare lidt længere nede, så har jeg måske ladet mig påvirke af et par slåfejl, eller måske nogle andre irrelevante småting i ansøgningen. De beslutninger en computer tager, er derimod både sporbare og gennemsigtige.”
Selv om Anders Kofod-Petersen er begejstret for tanken om at bruge kunstig intelligens inden for HR-området, erkender han også, at det er meget småt med reelle eksempler ude i firmaerne.
”Der har været et par startup-virksomheder på området, men de er døde igen – og når vi taler om virkeligt ’fancy’ løsninger, så er det meget småt. De stormer ikke just ind på markedet.”
”Når vi taler om rekruttering, så er det måske bedre, at du ikke lægger ansvaret fra dig og at det i stedet er mennesker, der tager beslutningerne. ”
Christian Hansen, CTO, HR-ON
HR-firmaet: AI kræver bredt domænekendskab
Hos HR-ON arbejder man med digital rekruttering og cloud-baserede løsninger, og forrige år gik firmaet i samarbejde med et hold af bachelor-studerende fra SDU om netop at udvikle AI-baserede løsninger.
”Vores mål var at analysere jobannonce-teksterne inden for forskellige fag, så vi kunne fortælle firmaer, hvem de rammer med en bestemt tekst, og hvordan de tiltrækker flere ansøgere,” fortæller firmaets CTO Christian Hansen.
Men opgaven viste sig vanskeligere end som så. Undervejs lærte de, at det ikke er nok at sætte programmører sammen med HR-folk. Hvis man skal lave tekstanalyse, så kræver det også domæneviden om opbygning af sprog.
Samtidigt blev det også klart for HR-ON, at der var en del juridiske begrænsninger, hvis de ville benytte AI til at sortere i ansøgninger – og endeligt blev man opmærksom på, at der kunne opstå etiske problemer.
”Jeg synes der ligger en udfordring i at udforme den software, så den ikke blot forstærker en bias og tiltrækker folk, som ligner dem, der allerede er i firmaet i forvejen.”
”Når vi taler om rekruttering, så er det måske bedre, at du ikke lægger ansvaret fra dig. Måske er det bedre, at det er mennesker, der tager beslutningerne,” vurderer Christian Hansen.
Vend AI på hovedet – se indad i stedet
HR-ON har ikke opgivet ideen om at bruge kunstig intelligens, og er lige nu i kontakt med firmaer, der har specialviden inden for området for at afsøge mulighederne. Men målet er ikke bare at sortere i ansøgere. I virkeligheden kan HR-afdelingens brug af kunstig intelligens komme til at handle mindre om de folk, man skal ansætte og mere om de folk, man allerede har ansat.
”Det er måske mere interessant, hvis vi kan fange mønstre hos de folk, der allerede er ansat. Kan vi f.eks. forudsige stress-faktorer og medarbejdertrivsel, hvis vi analyserer alle de tal, vi allerede har på medarbejderne i trivselsmålinger og APV’er. Måske ligger gevinsten i at lære af de historiske data – før firmaet mister tre nøglemedarbejdere,” siger Christian Hansen.
\
Skriv en kommentar
This site uses Akismet to reduce spam. Learn how your comment data is processed.