”ET GODT FORSLAG, MEN DET GÅR IKKE HELT SÅ LANGT, SOM VI GODT KUNNE TÆNKE OS”

Kunstig intelligens anvendt til at rekruttere medarbejdere bliver med nye EU-regler anset for at være høj risiko-systemer, så de skal undergives et særligt tilsyn for at undgå fejl. Karen Melchior, radikalt medlem af EU-Parlamentet, finder forslaget fra Kommissionen et godt skridt i den rigtige retning, men hun vil gerne gå videre.

Hvis en arbejdsgiver i fremtiden ikke overholder EU-reglerne for brug af kunstig intelligens, risikerer virksomheden i værste fald en bøde på seks procent af dens globale omsætning eller op mod 223 millioner kroner. Også hvis den kunstige intelligens er anvendt overfor medarbejderne i det daglige, eller når der hyres nye folk.

”Hvis man anvender kunstig intelligens til rekruttering, er det forbundet med særlig risiko for at diskriminere mellem ansøgerne,” siger Karen Melchior, radikalt medlem af EU-Parlamentet.

”Hvis man anvender kunstig intelligens til rekruttering, er det forbundet med særlig risiko for at diskriminere mellem ansøgerne.”
Karen Melchior

Et godt forslag men …

Anvender den kunstige intelligens data fra tidligere ansættelser til bestemte stillinger, risikerer den at fortsætte eller forstærke en praksis, hvor arbejdspladsen, uden at være bevidst om det, har udelukket ansøgere på grund af køn eller hudfarve.

Brug af kunstig intelligens til rekruttering er derfor klassificeret som et høj risiko-felt i det nye EU-forslag til regler om kunstig intelligens. Og det betyder, at der er særlige krav til, hvordan en arbejdsgiver må anvende den type kunstig intelligens, herunder f.eks. krav til at overvåge, at systemet ikke begår fejl.

”Vi synes, at det er et godt forslag, men det går ikke helt så langt, som vi godt kunne tænke os,” siger Karen Melchior.

”Jeg mener ikke, at man skal kunne bruge kunstig intelligens til rekruttering. Fordomme er noget, vi alle har, mere eller mindre bevidst. Man risikerer at forstærke forskelsbehandling fra tidligere, hvis kunstig intelligens-systemer blindt anvender tidligere ansættelser som datagrundlag,” fortsætter hun.

Hun fremhæver online-stormagasinet Amazon som et eksempel på, hvordan såkaldt intelligente IT-systemer kan anvendes på en måde, som krænker medarbejderne. I den amerikanske gigant har der været en sag, hvor Amazons systemer ikke alene overvågede de ansatte, det forberedte også fyringer, hvis medarbejderne ikke var produktive nok.

”Man risikerer at skabe et arbejdsmiljø, som ikke er acceptabelt i et moderne samfund. De systemer baserer sig på kontrol og overvågning i stedet for at vise tillid og at give medarbejderne plads til selv at planlægge deres eget arbejde,” siger Karen Melchior.

Ikke så skadelige

Hun peger på, at forslaget også dækker automatiserede processer, som måske ikke er så skadelige at anvende til at styre medarbejderne i hverdagen på arbejdet.

”Jeg har hørt om HR-systemer, som hjælper dem med forretningsgangene, når de skal ansætte nye medarbejdere. De holder f.eks. styr på, hvor lang tid personaleafdelingen må gemme ansøgninger, så de ikke kommer i karambolage med data-beskyttelsesreglerne. De kan også minde om at huske en på at sende en mail til ansøgerne om, at deres ansøgninger er modtaget,” siger Karen Melchior.

”Selv ville jeg måske ikke kalde det kunstig intelligens men en automatisering af systemerne. Men det er systemer, som understøtter medarbejderne i det daglige forslag.”