DANSK ERHVERV: KUNSTIG INTELLIGENS BØR BRUGES MED OMTANKE

Vær opmærksom på, hvordan du anvender kunstig intelligens og andre IT-systemer overfor dine medarbejdere, opfordrer Dansk Erhverv. Systemerne kan ikke mere end de data, de bliver fodret med. Bliver systemerne f.eks. brugt til at vurdere medarbejdernes indsats, er det en god ide med åbenhed om de parametre, systemet anvender, er Dansk Erhvervs synspunkt.

”Det er supergodt, at flere og flere danske virksomheder bruger kunstig intelligens-teknologier.”

Christian von Stamm Jonasson, erhvervspolitisk konsulent i Dansk Erhverv, mener, at det er afgørende for, at dansk erhvervsliv kan klare sig i konkurrencen med udenlandske virksomheder. Flere analyser og rapporter viser en voldsom vækst i brugen af kunstig intelligens, machine learning og andre IT-systemer til automatisering af arbejdsgange, ikke bare i USA men også i resten af verden.

”De bliver brugt langt de fleste steder. Ofte indgår det som en del af de softwareløsninger, virksomheder køber uden, at de nødvendigvis ved, at de komponenter er en del af det. Andre virksomheder går skridtet videre og investerer direkte i AI (artificial Intelligence, red.) som f.eks. en chatrobot, der er er bygget med NLP (natural language processing, red.) dvs. sprogforståelse, der kan opnås med et neuralt netværk, som er en variant af kunstig intelligens. Derudover ser vi stor brug af predictive analytics i industrien, detailhandlen og en række andre brancher” siger Christian von Stamm Jonasson.
Når det så er sagt, understreger han, at virksomheder skal anvende de systemer med omtanke.

”Kunstig intelligens bliver også brugt som et redskab til personaleledelse. Det kan for så vidt være udmærket, men her er du bare nødt til at være ekstra opmærksom, når det kommer til at anvende den slags systemer overfor mennesker, og netop anvendelse af AI-systemer til rekruttering og beslutninger om forfremmelser eller fyringer er blevet udpeget som højrisiko anvendelsesområder af EU-Kommissionen i deres forslag til regulering af AI, der blev præsenteret d. 21. april i år,” siger Christian von Stamm Jonasson.

”Du kan risikere, at nogle parametre, som i virkeligheden burde vægte mindre, får for meget vægt.”
Christian von Stamm Jonasson, Dansk Erhverv

Altid en risiko

Han henviser til, at IT-systemer ikke er bedre end de data, der bliver brugt, og de programmører, som konstruerer dem.

”Der er altid en risiko for, at der kan være indbygget en eller anden form for bias i systemet, som kan give problemer. Hvis man f.eks. bruger et sådant system til at udvælge kandidater til en opslået stilling, skal man være klar over, hvad det er for parametre, som bliver anvendt af systemet,” siger Christian von Stamm Jonasson.

Hvis nu du selv er uddannet på et universitet og har en alder midt i 20erne, kan du nemt, måske endda uden at tænke over det, komme til at foretrække den samme slags person, når du skal hyre en medarbejder eller kollega, lyder hans pointe. Den bias, eller tilbøjelighed, kan en algoritme nemt komme til at gentage, hvis den anvender data fra tidligere ansættelser, når den scanner nye jobansøgninger.
”Du kan risikere, at nogle parametre, som i virkeligheden burde vægte mindre, får for meget vægt. Måske foretrækker den uddannelsesbaggrund frem for erfaringer. Sådant et system er jo ikke bedre end de data, som du putter ind i det.”

Redskaber til at undgå bias

Netop derfor skal arbejdspladserne huske at få indbygget en række kontroller, så man undgår den slags, mener Christian von Stamm Jonasson. Konkret mener han, at arbejdspladserne enten må alliere sig med eksterne konsulenter eller selv sørge for at tjekke, om systemet udvælger kandidaterne på det rigtige grundlag.

”Efterhånden har vi fået udviklet forskellige redskaber, som vi kan anvende. Til efteråret lanceres D-mærket, som bl.a. stiller krav om pålidelige algoritmer og AI. Kommissionens ekspertgruppe for kunstig intelligens har også udviklet Assesment List for Trustworthy AI (forkortet ALTAI, red.), som opstiller syv kriterier bl.a. om gennemsigtighed og ansvarlighed, som kan bruges af både udviklere og brugere af kunstig intelligens.

Er man ikke selv IT-virksomhed, kan man bruge de redskaber til at blive klar over, hvilke spørgsmål, man skal stille til leverandøren af de systemer,” siger Christian von Stamm Jonasson.

Et relevant spørgsmål er f.eks., hvilke data algoritmen er blevet trænet med. Et andet spørgsmål kan være, hvordan man bedst overvåger, at systemet fungerer, som man gerne ville have det. Igen opfordrer han til, at hvis man som virksomhed ikke har de nødvendige kompetencer blandt sine egne medarbejdere, bør man søge rådgivere udenfor huset.

Kræver åbenhed

Anvender man kunstig intelligens eller andre systemer til at vurdere medarbejdernes indsats på arbejdsplads, kræver det en lige så høj grad af åbenhed om, hvilke parametre systemerne anvender.

”Det vil det jo også gøre, hvis det er et menneske, som foretager den vurdering. Lad os sige, at du foretager et performance review på dine medarbejdere. Her skal de også vide, hvad det er, de bliver målt på. Tæller det meget ned, hvis man kommer for sent eller ses der mest på resultaterne? Her er det godt at kommunikere klart og tydeligt, at vi lægger vægt på de og de parametre,” siger Christian von Stamm Jonasson.
På den måde kan medarbejderne forstå, hvad præcist de bliver målt på, uanset om det er en algoritme eller chefen. ”Her er du som medarbejder nødt til at sætte dig ud over, om det er et system eller et menneske, som bedømmer dig. Det, som i sidste ende er vigtigst, er de parametre, som du bliver målt på.”

Kan levere ekstra viden

Christian von Stamm Jonasson vedgår gerne, at det er muligt at misbruge IT-systemer, og bruge dem på en måde, der ikke er hensigtsmæssig. Men det er undtagelser, mener han. I stedet bør man holde fast i, at de såkaldte intelligente systemer ikke skal erstatte mennesker. De kan med fordel anvendes til at understøtte mennesker til at træffe de rigtige beslutninger.

”De kan bruges til at levere noget ekstra viden, som kan anvendes, når man skal træffe en beslutning. Det ser vi rigtigt meget i forhold til at diagnosticere sygdomme tidligt. Kræftlæger kan med fordel anvende de teknologier til at blive endnu bedre til diagnosticere kræft. Maskinerne er begyndt at komme tæt på at være lige så dygtige som eksperterne. De bedste resultater får man, når mennesker og maskiner arbejder sammen,” siger Christian von Stamm Jonasson.

Spørger man i Dansk Industri om danske virksomheders brug af kunstig intelligens, machine learning og det, der ligner, lyder svaret fra Line Haaning Anker, digitaliseringspolitisk konsulent, at Dansk Industri ikke har det fulde overblik over medlemmernes brug af kunstig intelligens indenfor de forskellige anvendelsesområder.

Hun tilføjer at, Dansk Industri generelt er fortaler for, at flere danske virksomheder benytter kunstig intelligens og maskinlæring i deres forretning, men at det skal ske på en ansvarlig måde. Dette gælder også, når arbejdsgivere benytter kunstig intelligens og maskinlæring overfor medarbejdere eller potentielle medarbejdere f.eks. gennem rekruttering. \