FORSKER: EU-FORSLAG OM KUNSTIG INTELLIGENS GÅR IKKE LANGT NOK

Med det nye forslag til forordning om kunstig intelligens vil EU fastsætte nye normer for, hvordan man kan anvende kunstig intelligens. Forsker kritiserer forslaget for at være meget løst. Hanne Marie Motzfeldt peger på, at formålet med forslaget er at fremme brug af kunstig intelligens, ikke at beskytte medarbejderne mod arbejdsgiveres brug af kunstig intelligens til at overvåge dem eller vurdere deres daglige indsats på jobbet.

”Det kaos forkerte algoritmer kan skabe, er det samme.” Bliver forslaget til nye EU-regler til gældende regler, kommer det næppe til at forhindre, at kunstig intelligens-systemer i fremtiden kan ramme forkert, mener Hanne Marie Motzfeldt.

”EU-forslaget vil sætte nogle meget løse rammer for anvendelse af kunstig intelligens. Man kommer ikke til at forhindre nogen som helst form for innovation her,” siger lektoren med speciale i digital forvaltning på Københavns Universitets juridiske fakultet.

Enkelte former for brug af kunstig intelligens, der bliver anvendt på en måde, som er til fare for almindelige mennesker, bliver direkte forbudt. Forbuddet omfatter f.eks. systemer, som er blevet set anvendt i Kina til at manipulere med borgere.

”Der er meget få forbud i forslaget, men de er der. Ud over det definerer forslaget en række systemer, som er forbundet med høj risiko. Det vil sige systemer, hvor forkert brug kan skade tilliden til den type teknologi,” siger Hanne Marie Motzfeldt.

”EU-forslaget vil sætte nogle meget løse rammer for anvendelse af kunstig intelligens.”
Hanne Marie Motzfeldt, Københavns Universitet

Dårlige muligheder for at forsvare sig

Det gælder systemer, som medfører en høj risiko for menneskers helbred, sikkerhed eller basale rettigheder. Hanne Marie Motzfeldt nævner som et eksempel en skandale i Holland, hvor hemmelige algoritmer udpegede tusinde af mennesker som skyldige i socialt bedrageri.

Ofte var de ramte mennesker socialt udsatte, som havde dårlige muligheder for at forsvare sig. Den type kunstig intelligens-systemer skal nu være omfattet af særlige krav for at undgå den slags, men de bliver ikke forbudt.

Ifølge Hanne Marie Motzfeldt vil de nye regler, hvis de ender med at blive vedtaget i den her form, heller ikke komme til at betyde meget for arbejdsgivernes muligheder for at anvende kunstig intelligens overfor deres medarbejdere.

”Måske vil det kunne bremse mulighederne for, at vi kommer til at se rene Amazon-lignende tilstande. Måske. Men jeg vil være i tvivl om, hvor meget det kommer til at betyde for Danmark, fordi EU respekterer den danske model for arbejdsmarkedet,” siger hun.

Ikke særskilt beskyttelse af arbejdstagere

Hanne Marie Motzfeldt peger på, at reglerne i det nye forslag ikke er til hinder for, at arbejdsgiver f.eks. kan anvende kunstig intelligens til at overvåge medarbejderne, mens de sidder ved skrivebordet på hjemmearbejdspladsen.

”Men når man begynder at anvende den slags systemer, skal man være sikker på, at der ikke bliver diskrimineret i forhold til fagforeninger, køn, etnicitet eller lignende. Man har en generel pligt til at overvåge, om systemer afstedkommer noget, man ikke vil have. I forslaget kommer der ikke en særskilt beskyttelse af arbejdstagerne,” siger hun.

Hanne Marie Motzfeldt understreger, at det ikke er formålet med forslaget at hindre brug og udvikling af kunstig intelligens. ”Tværtimod. EU vil gerne se meget mere kunstig intelligens.” \

FAKTA
KORT OM EU-FORSLAG OM KUNSTIG INTELLIGENS
Forslaget blev fremsat som en forordning 21. april i år. Det betyder, at regler vil gælde direkte i alle medlemslandene.

I forslagets artikel 5 er der enkelte forbud mod at bruge kunstig intelligens til at manipulere med mennesker. Det gælder systemer, man har set i Kina, hvor borgerne bliver målt og får sociale point alt efter, hvordan de opfører sig. Det gælder også algoritmer, der udnytter børn eller søger at manipulere med mennesker. Også biometriske overvågningssystemer er med få undtagelser forbudt.

Andre systemer er ifølge forslaget artikel 6 udgør en særlig risiko for at påvirke borgernes sikkerhed, helbred og fundamentale rettigheder.

Bagerst i direktivet finder man en lang liste af brug af kunstig intelligens, som betragtes som højrisiko-systemer. Det gælder f.eks. kunstig intelligens anvendt til at sikre vand-, gas-, varme- og elforsyning. Et andet eksempel er systemer, der er med til at styre adgang til uddannelser. Den slags systemer er undergivet et særligt tilsyn.

Ud over de to kategorier er der systemer med begrænset risiko som f.eks. chatbots, der er undergivet gennemsigtighedskrav. Endelig er der systemer, der anses som uden risiko. Det er systemer, som allerede anvendes under de eksisterende regler. Overtræder virksomheder eller det offentlige regler kan der falde bøder helt op til seks procent af en virksomheds samlede globale omsætning.
Kilde: EU-Kommissionen, Kromann Reumert